airflow - Airflow catch 设置为 false 不能通过配置和代码工作
问题描述
我试图了解 Airflow 发生了什么。我已经使用 catchup=False 参数设置了我的 DAG。但是,当我启用它时,它只是从 start_date 开始运行作业。我还尝试将 airflow.cfg 设置为 False,但那里也没有运气。
另外,我一直在尝试了解清除和回填的工作原理。如果当前日期在 start_date 之前,clear 只会将状态设置为 NULL,但如果它在 start_date 之后,则会清除状态并触发日期的 dag。我想明确任何日期以简单地将当天管道的状态设置为无,就像它在 start_date 之前所做的那样。
这是一个已知的气流错误吗?我的用例是能够清除任何日期范围,然后在同一日期范围内运行回填。
解决方案
对于您关于 clear 的问题:我会说这是一项功能,而不是错误。从操作的角度来看,它非常方便。
当一个 DAG 运行时,它的一个任务失败了,也许有一些可以纠正的东西使该任务(和相关任务)成功。因此,如果您去纠正那个问题(例如缺少连接定义、防火墙问题等),您可以清除该任务(以及下游任务),然后调度程序自动将 DAG 置于运行状态并重新启动清除的任务。
推荐阅读
- c++ - c++ 成员初始化器与类中的 const getter
- python - Python 在 streamlit 中使用 concurrent.futures 得到“缺少 ReportContext”
- javascript - 在 SVG 圆圈内绘制随机点,使它们不集中在中心
- python - 如何在张量流数据集中扩展每个批次的维度
- powerapps - OnStart - 播放模式和编辑模式之间全局变量的不同行为
- java - 如何修复线程“main”java.lang.IllegalStateException中的异常
- swift - Swift 5.3 编译器 Xcode 12 无法导入使用 Swift 5.1.3 编译的模块
- javascript - React Bootstrap Table删除按钮onclick不起作用
- sas - 如何更简单地转置数据集
- java - java中的线程和锁