airflow - Airflow 1.9.0 正在排队,但任务未运行
问题描述
Airflow 突然停止运行任务。下面都在运行
airflow scheduler
airflow webserver
airflow worker
微信消息
满足所有依赖项,但任务实例未运行。在大多数情况下,这只是意味着任务可能很快就会被安排,除非: - 调度程序已关闭或负载过重
如果此任务实例没有很快启动,请联系您的 Airflow 管理员寻求帮助。
调度程序似乎处于循环中,不断重复以下消息。WebUI 显示任务处于排队状态。尝试重新启动调度程序,没有帮助。
[2018-11-17 22:03:45,809] {{jobs.py:1607}} DEBUG - Starting Loop...
[2018-11-17 22:03:45,809] {{jobs.py:1627}} INFO - Heartbeating the process manager
[2018-11-17 22:03:45,810] {{jobs.py:1662}} INFO - Heartbeating the executor
[2018-11-17 22:03:45,810] {{base_executor.py:103}} DEBUG - 124 running task instances
[2018-11-17 22:03:45,810] {{base_executor.py:104}} DEBUG - 0 in queue
[2018-11-17 22:03:45,810] {{base_executor.py:105}} DEBUG - 76 open slots
[2018-11-17 22:03:45,810] {{base_executor.py:132}} DEBUG - Calling the <class 'airflow.executors.celery_executor.CeleryExecutor'> sync method
[2018-11-17 22:03:45,810] {{celery_executor.py:80}} DEBUG - Inquiring about 124 celery task(s)
气流设置:
apache-airflow[celery, redis, all]==1.9.0
我也检查了这些帖子,但没有帮助我:
解决方案
问题解决了。当您在 2018 年 11 月 15 日或之后创建您的构建时,这是一个问题原来apache-airflow[celery, redis, all]==1.9.0
需要最新版本的redis-py 3.0.1
,它不适用于 celery 4.2.1
。解决方案是使用 redis-py2.10.6
redis==2.10.6
apache-airflow[celery, all]==1.9.0
推荐阅读
- python - 使用 Kubernetes 客户端 Python 删除部署在 AKS 中的 POD 中的容器
- c# - 如何检查网络图像是否存在并且服务器进行重定向?
- python - PyGObject:libpango-1.0.so.0:未定义符号:g_ptr_array_copy
- node.js - 包中捆绑的本地依赖项在 npm install 上抛出错误
- javascript - 如何运行php函数onclick
- vue.js - 为什么刚刚触发子组件的挂载钩子时,我们可以获取父组件的整个 DOM?
- sudo - 在 `sudo` 中运行 ssh-keyscan 失败并显示 `Already running in a session`
- scala - 为什么表示 Tree 的泛型类型类具有 A 和 B 类型?
- python - Numpy获取二维数组中arange的索引
- python - 从模块导入类是否会在导入时执行整个模块?蟒蛇 3