首页 > 解决方案 > 使用气流 Cloud Composer 运行多文件 python apache 光束

问题描述

我有一个多文件 python apache 束作业,我想通过气流/云作曲家在 Cloud Dataflow 上运行。我的多文件作业是按照此建议设计的https://beam.apache.org/documentation/sdks/python-pipeline-dependencies/#multiple-file-dependencies从 CLI 可以正常工作。现在我想通过气流和 Cloud Composer 运行它。我尝试使用https://airflow.apache.org/integration.html#dataflowpythonoperator但它不起作用。可能我错过了配置此运算符的正确方法。顺便说一句,我使用此运算符运行一个文件 python apache 束作业没有问题。

标签: google-cloud-dataflowairflowapache-beamgoogle-cloud-composer

解决方案


推荐阅读