hadoop - 从 HDFS 加载到 S3 时如何解压缩文件?
问题描述
我有lzo
格式的csv 文件,HDFS
我想将这些文件加载到 s3 中,然后加载到雪花中,因为雪花不提供 csv 文件格式的 lzo 压缩,我需要在将这些文件加载到 s3 时动态转换它。
解决方案
您可以考虑使用 Lambda 函数在登陆 s3 时解压缩文件,这里有一个链接可以让您到达那里:
推荐阅读
- xml - 有没有办法在 NiFi 中删除 XML 标记名称属性
- python - 我们怎样才能得到一个情节箱线图背后的不同统计数据?
- visual-studio-2019 - Visual Studio 2019 类下拉菜单在选择后立即自动同步
- c++ - 为什么我的 hello world 程序占用了 883KB?
- python - 为什么**uwsgi**中的一些工人从“app:-1”获得500,其他人完全正常
- node.js - nodejs - 如何防止exif图像自动旋转
- python - 是否有 asyncio 的 `call_at` 或 `call_later` 对于 anyio 的等价物?
- node.js - 在 MongoDB 中通过对象 id 抓取另一个对象内部的对象
- java - fcm 使用 java(tomcat) 推送发送
- python - Discord.py 带线程,RuntimeError: Timeout 上下文管理器应该在任务内部使用