azure-data-lake - Azure Datalake Analytics U-SQL 与 Azure Datalake Storage Gen 2
问题描述
问题:将 ADLA (U-SQL) 与 ADLS(Gen2) 一起使用的前进道路是什么?
我一直在美国东部地区通过 Azure 数据工厂 (ADF v2) 和 Azure Data Lake Store Generation 1 运行 Azure Data Lake Analytics (U-SQL) 作业已有一段时间了
我计划部署另一个实例来满足加拿大客户的需求,并希望设置 Azure Data Lake Store Generation 1
我尝试了什么:
- 我无法在加拿大中部(或任何加拿大地区)创建 Azure Datalake Storage Gen 1 帐户
- 我尝试迁移到 Azure Datalake Storage Gen2,但随后遇到了 Azure 数据工厂 - U-SQL 活动无法与 Gen2 存储链接服务链接以获取 U-SQL 脚本的问题
我偶然发现了有关此主题的多个链接:
- https://feedback.azure.com/forums/327234-data-lake/suggestions/36445702-add-support-for-adls-gen2-to-adla
- https://social.msdn.microsoft.com/Forums/en-US/5ce97eef-8940-4591-a19c-934f71825e7d/connect-data-lake-analytics-to-adls-gen-2
这实质上是说 U-SQL / ADLA 不会支持 ADLS Gen2
我有点困惑,因为没有关于 ADLA 方向的官方文件
解决方案
更新:
这是我的 u-sql 活动的结构。它可以工作并成功处理:(您可以尝试创建一个新的 u-sql 活动 json 来替换您的 u-sql 活动。)
{
"name": "pipeline4",
"properties": {
"activities": [
{
"name": "U-SQL1",
"type": "DataLakeAnalyticsU-SQL",
"dependsOn": [],
"policy": {
"timeout": "7.00:00:00",
"retry": 0,
"retryIntervalInSeconds": 30,
"secureOutput": false,
"secureInput": false
},
"userProperties": [],
"typeProperties": {
"scriptPath": "test1/u-sql.txt",
"scriptLinkedService": {
"referenceName": "LinkTo0730",
"type": "LinkedServiceReference"
}
},
"linkedServiceName": {
"referenceName": "AzureDataLakeAnalytics1",
"type": "LinkedServiceReference"
}
}
],
"annotations": []
}
}
原答案:
我无法在加拿大中部(或任何加拿大地区)创建 Azure Datalake Storage Gen 1 帐户
就我而言,我也无法在加拿大中部地区创建 datalake gen1。这是我订阅的限制。但是您可以检查一下您身边的资源管理器,也许可以。(Azure 数据湖 gen1 是“Microsoft.DataLakeStore”)
所有区域都支持资源管理器,但可能并非所有区域都支持您部署的资源。此外,您的订阅可能存在限制,导致您无法使用支持该资源的某些区域。资源浏览器显示资源类型的有效位置。
请检查此文件:
我尝试迁移到 Azure Datalake Storage Gen2,但随后遇到了 Azure 数据工厂 - U-SQL 活动无法与 Gen2 存储链接服务链接以获取 U-SQL 脚本的问题
在我这边,似乎它正在读取 gen2 中的 u-sql 脚本,你有没有得到一些错误?
推荐阅读
- apache-spark - 如何使用 regexp_replace() 从 spark 数据集中替换 Ctrl+M 字符?
- javascript - 如何在文本框中显示传递给函数的结果
- flutter - 如何增加 CupertinoSliverNavigationBar 的高度
- php - 使用 json 和 php 显示每个文件夹中的文件
- html - DT & shiny:使标题边框更明显
- angular - 发生错误时Angular 4停止订阅
- objective-c - objc_msgSend 崩溃 Objective-C
- postgresql - 如何创建其他数据库的休眠视图?
- reactjs - 测试 React Hooks:如何在 useEffect 中测试 Axios 的调用?
- c# - 打印机无法从 DeviceHub 接收作业