时间戳

首页 > 解决方案 > 从 Azure Databricks 读取 Azure Datalake Gen2 映像

python-3.x - 从 Azure Databricks 读取 Azure Datalake Gen2 映像

问题描述

我正在处理.tif存储在 Azure Data Lake Gen2 中的文件。想要使用rasterioAzure Databricks 打开此文件。

例子：

从 Data Lake 读取图像文件时spark.read.format("image").load(filepath)工作正常。

在此处输入图像描述

但试图打开一样

with rasterio.open(filepath) as src:
    print(src.profile)

收到错误：

RasterioIOError: wasbs://xxxxx.blob.core.windows.net/xxxx_2016/xxxx_2016.tif: No such file or directory

任何线索做错了什么？

更新：

正如 Axel R 所建议的，在 Databricks 文件系统上安装了文件，但仍然遇到同样的问题，无法从 rasterio 打开文件，但可以读取为 df。

在此处输入图像描述

还尝试通过在 Datalake 中创建文件的共享访问签名并尝试通过 URI 访问文件。现在得到错误以下错误：

CURL error: error setting certificate verify locations:   CAfile: /etc/pki/tls/certs/ca-bundle.crt   CApath: none

为了进一步测试，尝试从网络打开一个相同的文件 @

filepath = 'http://landsat-pds.s3.amazonaws.com/c1/L8/042/034/LC08_L1TP_042034_20170616_20170629_01_T1/LC08_L1TP_042034_20170616_20170629_01_T1_B4.TIF'工作正常

标签： python-3.xazure-databricksrasterioazure-data-lake-gen2

解决方案

我相信这是因为 rasterio 使用的是本地 API，并且只能从以 /dbfs/ 开头的路径读取。

您可以挂载 blob 存储吗？这将允许您使用以 /dbfs/mnt/ 开头的路径的 rasterio 访问它

推荐阅读