时间戳

首页 > 解决方案 > 如何列出气流工作吊舱中正在运行的 dag

google-cloud-composer - 如何列出气流工作吊舱中正在运行的 dag

问题描述

我们有 3 个 composer GKE 节点和 3 个 worker pod，均匀分布在所有 3 个节点中。我需要知道如何检查哪个 DAG 或任务当前在哪个 pod 中运行。我尝试运行气流 list_dag，但它显示了我认为的所有 dag。我只需要知道哪个 dag 在哪个 pod 中运行。是否可以将 pod 从一个节点移动到另一个节点。有时我的 pod 并没有均匀地分布在所有 3 个节点中。

标签： google-cloud-composerairflow

解决方案

有两种方法可以从 Airflow UI 获取此信息：

  • 您可以转到Browse -> Task Instances并获取主机名以了解任务在哪个工作人员上运行。您还可以应用过滤器等。

  • 或者，您可以转到数据分析以运行Ad Hoc Query，例如以下查询：

SELECT dag_id, task_id, state, hostname 
FROM task_instance
WHERE state = "running"

推荐阅读