etl - 使用任何 ETL 工具进行数据转换的可行性分析
问题描述
我对任何 ETL 工具都没有任何经验。但是我想知道是否可以使用任何 ETL 工具执行以下操作,或者我们需要编写 java 或任何其他批处理作业来执行此操作:
场景 1: 源系统具有不同的 REST API。我需要获取数据,对其进行转换,然后将数据存储在 MongoDB 中。最难的部分是转型。在某些情况下,我需要调用源的 REST API,并且根据其数据,我需要使用第一个 API 数据调用其他几个 REST API。之后,我们需要将整个数据格式化为不同的格式并将其存储在 Mongo 中。
场景 2: 源系统有一个 DB。我需要使用我的自定义逻辑转换数据并将其存储在 MongoDB 中。这里的自定义逻辑可以包括如下内容: 从源表 1 中我创建了 collection1。之后我需要查阅table2和之前创建的collection1,处理数据然后创建collection2。
这可以使用任何 ETL 工具吗?如果可能,那么使用哪个工具?如果可能的话,请尽可能简短地提及如何使用不同的术语来完成它,以便我可以搜索互联网,学习并实施它。
解决方案
Briefly speaking: yes, that is what ETL tools are exactly for. You can Extract data from REST sources, Transform using sophisticated logic and Load to target, like MongoDB.
Exact implementation depends on the tool. While I guess you will get help if you run across problems implementing the solution in any of the tools, I don't think anyone will prepare complete, detailed solutions for you.
推荐阅读
- python - 从开始和结束坐标识别不同的多边形
- proxy - 错误:连接到 localhost 时,Econnrefured
- fwrite - 重写文件读取的最后一部分
- javascript - Reactjs回调在返回错误之前获取错误
- azure - Azure CDN 字体加载问题
- shopify - Shopify 模板作者信息(简码?)
- r - 需要创建一个具有未指定行数的矩阵,以便 for 循环可以将值写入矩阵
- kubernetes - 我们可以在使用 yaml 创建配置映射时指定 --from-file 选项吗
- android - Ionic Cordova iOS - 一个信号检查推送通知权限从后台恢复无法正常工作
- javascript - React 条件渲染组件测试用例笑话