azure - Azure 流分析如何创建单个 parquet 文件
问题描述
我很少有 IoT 设备将遥测数据发送到 Azure 事件中心。我想将数据写入 Azure Data Lake 中的 Parquet 文件,以便我可以使用 Azure Synapse 查询该数据。
我已将 Azure 功能触发到 Azure 事件中心,但我没有找到直接将从设备接收到的数据以 Parquet 格式写入 Azure 数据湖的方法。
所以我在做什么,我有流分析工作——它有来自事件中心的输入和以 Parquet 格式输出到 Azure 数据湖。
我已将流分析输出路径格式配置为不同的格式 - 但它会在以下文件夹中创建多个小文件。
*设备数据/{unitNumber}/
设备数据/{unitNumber}/{datetime:MM}/{datetime:dd}*
我想为单个设备提供单个镶木地板文件。有人可以帮忙吗?
我试图配置最大时间 - >但数据不会被写入镶木地板文件,直到这个时间过去。我也不想要这个。
我想要简单的功能 - 一旦从设备接收到事件中心的数据,它应该被附加到 Azure 数据湖中的镶木地板文件中。
解决方案
推荐阅读
- python - docker-compose: ValueError: bad marshal data (unknown type code)
- asp.net - 数据插入成功后将信息打印到另一页
- azure - Azure 映像构建 - azure-arm:无法删除托管映像
- django - 更改通过熊猫创建的 html 表上的列名
- bash - 在 Mac OS 终端中按设定的时间批量更改文件创建日期
- react-native - 从商店响应本机自动更新
- audio - FFmpeg - 音频标签 | 加利西亚语
- azure - 将数据从 Azure 表存储迁移(和转换)到 Cosmos DB Sql API 的最佳方式
- apache-poi - Apache POI docx:HTML 作为带有照片的 altChunk
- powerbi - 使用过滤器从另一个表中获取最小日期