airflow - 为气流参数化或循环列表
问题描述
我有一个列表列表让我们说
import itertools
test_list = list(itertools.permutations([1, 2, 3]))
我想为每组子列表在气流中创建一个任务,例如:
something_cool = PythonOperator(
task_id='cool',
python_callable=do_something_cool(sub_list),
dag=dag)
最好的方法是写一个循环吗?就我而言,主列表很长,写出每个运算符都非常困难。
有没有办法给操作员一个列表并让它参数化?
解决方案
迭代 for 循环可以很好地定义任务。只需将整个 def 保留在里面..我还没有尝试过处理依赖项..这可能是不可能的。
dep 也可以在循环中设置。哇,我喜欢气流。
推荐阅读
- javascript - 使用 CSS 类来设置剑道编辑器模板的样式
- java - 如何从 Kotlin 数据类创建对象的 Java 实例但不包含所有字段?
- angular - Angular:使用可观察对象检测 DOM 中的变化
- c++ - 从另一个列表中删除一个列表中的内容
- angular - 如何将图像的 URL 转换为 base64 (IONIC3)
- sqlite - 在android中为treeview创建数据库
- c# - 如何使用 NSubstitute 在构造函数上模拟 ILogger
- github - 如何使用 svn 命令从 github 获取代码
- html - CSS网格:将方形单元格与具有一致网格间隙的容器边缘对齐?
- mysql - 如何正确声明变量 phpmyadmin mysql 触发器?