databricks - 在 pyspark/python 作业中访问 databricks 机密
问题描述
可以使用 dbutils 在笔记本中访问 Databricks 机密,但是由于 dbutils 在笔记本之外不可用,因此如何访问 pyspark/python 作业中的机密,尤其是使用 mlflow 运行它们时。
我已经尝试过如何在 pyspark 中加载 databricks 包 dbutils
这不适用于远程作业或 mlflow 项目运行。
解决方案
在原始 pyspark 中,您不能这样做。但是,如果您正在专门为 Databricks 开发 pyspark 应用程序,那么我强烈建议您查看 Databricks-connect。
这允许访问部分 dbutils,包括来自 ide 的秘密。它还简化了您访问存储的方式,使其与代码在生产中的运行方式保持一致。
https://docs.microsoft.com/en-us/azure/databricks/dev-tools/databricks-connect
推荐阅读
- javascript - React-Native:在另一个类中访问 TextField 值
- java - 如何从控制台输入字符串中获取控制字符
- javascript - Javascript – 动态添加时不显示 PNG
- c# - 如何知道要使用哪些 HttpClient 标头?
- android - WebViewPool,从 WebViewPool 重用 WebView 时,最后一个 html 页面显示在新 url 之前
- android - Android微调器不显示棒棒糖模拟器中的项目
- unity3d - 无法实例化多精灵
- intellij-idea - TestNG DataProvider 标记为无效的返回类型迭代器
,但它将参数传递给测试方法 - apache - 通过 VPN 连接访问 localhost
- javascript - @typescript-eslint/eslint-plugin 错误:'Route' 已定义但从未使用过(no-unused-vars)