首页 > 解决方案 > 为气流参数化或循环列表

问题描述

我有一个列表列表让我们说

import itertools
test_list = list(itertools.permutations([1, 2, 3]))

我想为每组子列表在气流中创建一个任务,例如:

something_cool = PythonOperator(
  task_id='cool', 
  python_callable=do_something_cool(sub_list), 
  dag=dag)

最好的方法是写一个循环吗?就我而言,主列表很长,写出每个运算符都非常困难。

有没有办法给操作员一个列表并让它参数化?

标签: airflow

解决方案


迭代 for 循环可以很好地定义任务。只需将整个 def 保留在里面..我还没有尝试过处理依赖项..这可能是不可能的。

dep 也可以在循环中设置。哇,我喜欢气流。

https://www.astronomer.io/guides/managing-dependencies/


推荐阅读