azure-databricks - 尝试在 ADLS Gen2 上创建增量表时出现 Databricks 错误
问题描述
我正在使用 Azure Databricks 在 Azure Data Lake Storage Gen2 上创建一个增量表并遇到错误。
代码:
dataframe.write.format("delta").mode("overwrite").option("path","abfss://<ContainerName>@<StorageAccount>.dfs.core.windows.net").saveAsTable("test_table")
错误:
IllegalArgumentException: java.net.URISyntaxException: Relative path in absolute URI: abfss://<ContainerName>@<StorageAccount>.dfs.core.windows.net_delta_log
解决方案
您需要设置 Data Lake 内特定目录的路径,而不是容器顶部。就像是:
ContainerName = "container"
StorageAccount = "account"
table_path = f"abfss://{ContainerName}@{StorageAccount}.dfs.core.windows.net/test-table"
dataframe.write.format("delta").mode("overwrite")\
.option("path", table_path).saveAsTable("test_table")
推荐阅读
- python - sklearn 决策树 - 无法将字符串转换为浮点数
- swift - XCUITest 等待未经测试的应用程序达到空闲状态
- c# - asp.net 5 GC 需要 10 秒
- node.js - 使用多个前端时如何正确配置 Amplify CI/CD 管道(前端构建缺少 aws-exports)?
- angular - 从另一个组件调用一个组件
- scala - scala强制转换不兼容类型而不会引发错误
- ios - SKDownload 的 contentURL 不是 nil 但不存在
- reactjs - 为什么 React Vertical Graph Tree 中的第一个方向没有显示?
- vue.js - 无效的道具:道具“值”的自定义验证器检查失败
- kibana - 如果有人正在更改/创建报告,是否可以触发警报