首页 > 解决方案 > 奇怪的 Google Dataflow 作业日志条目

问题描述

最近,我在工作详细信息视图中的工作日志中充满了以下条目:

  "Worker configuration: [machine-type] in [zone]."

作业本身似乎工作正常,但这些条目之前没有出现,我担心因此我无法发现有意义的日志条目。

这是我应该担心的事情吗?你知道如何摆脱它们吗? 在此处输入图像描述

标签: google-cloud-dataflowapache-beamspotify-scio

解决方案


是的,这些日志是垃圾邮件,不必担心。我已经提交了一个内部错误来减少这些垃圾日志(这是第一个)。在修复过程中,您可以熟悉Stackdriver 日志排除功能。这允许您创建过滤器以根据用户定义的查询排除日志。

以下是排除特定 Datawflow 日志的步骤:

  1. 导航到日志提取页面
  2. 找到“数据流步骤”行
  3. 单击同一行最右侧的按钮
  4. 从下拉列表中选择“创建排除过滤器...”选项
  5. 编写查询以选择要排除的日志(在您的情况下resource.type="dataflow_step" "Worker configuration":)
  6. 为您的过滤器命名
  7. 选择要排除的日志百分比(默认排除 100% 的选定日志)
  8. 单击“创建排除”按钮
  9. 您可以在日志提取页面的“排除”选项卡中查看您创建的排除过滤器

推荐阅读