首页 > 解决方案 > 在 pyspark/python 作业中访问 databricks 机密

问题描述

可以使用 dbutils 在笔记本中访问 Databricks 机密,但是由于 dbutils 在笔记本之外不可用,因此如何访问 pyspark/python 作业中的机密,尤其是使用 mlflow 运行它们时。

我已经尝试过如何在 pyspark 中加载 databricks 包 dbutils

这不适用于远程作业或 mlflow 项目运行。

标签: databricksazure-databricksmlflow

解决方案


在原始 pyspark 中,您不能这样做。但是,如果您正在专门为 Databricks 开发 pyspark 应用程序,那么我强烈建议您查看 Databricks-connect。

这允许访问部分 dbutils,包括来自 ide 的秘密。它还简化了您访问存储的方式,使其与代码在生产中的运行方式保持一致。

https://docs.microsoft.com/en-us/azure/databricks/dev-tools/databricks-connect


推荐阅读