首页 > 解决方案 > filebeat中的kafka记录密钥提取

问题描述

根据这份文件

key

Optional Kafka event key. If configured, the event key must be unique and can be extracted from the event using a format string.

但是,它没有指定如何做到这一点..

我在文件中有一个事件(json 消息),需要使用filebeat发送到 kafka 。

 "message":
 {
    "name": "display",
    "id": "asdf-123",
    "type": "User",
    ...
 }

我尝试过这样的 filebeat.yml:

filebeat.prospectors:
  - input_type: log
    paths:
      - ...
output.kafka:
  codec.format:
    string: '%{[message]}'
  hosts: ["localhost:9091"]
  key: '%{[event.id]}'
  topic: 'my-topic'
  ...

在这里,我试图message.id从 json 中提取,用作 kafka 记录密钥。这行不通。。

我的问题,我们如何格式化来自 filebeat 的消息以包含动态键..

标签: apache-kafkafilebeat

解决方案


推荐阅读