apache-kafka - Kafka 是否提供 Producer 级别的偏移量?
问题描述
假设,我有多个 Kafka 生产者同时为单个 Kafka 主题生成数据。
是否可以获得给定生产者产生的最后一个偏移量?
例如 :
生产商:P1 , P2
主题:T1
一个分区Partition-0
P1
发表了 100 条记录,P2
发表了 150 条记录。
我想分别找出 P1 和 P2 发布的最后一条记录的偏移量。
请注意,我不是要求全局主题分区偏移量。
解决方案
卡夫卡经纪人不跟踪这些信息。
只有生产者拥有这些信息,但它甚至不是他们内置指标的一部分。如果您想跟踪每个生产者的最后一个偏移量,您需要自己在每个生产者实例中创建一个指标。
例如,您可以简单地检索由返回的对象中的偏移量并将其公开为指标。RecordMetadata
send()
推荐阅读
- spring-boot - spring cloud openfeign映射不起作用
- keycloak - Keycloak 注册会为重复的电子邮件引发 HTTP 500
- reactjs - 如何使用 redux、immer、react 从数组中删除元素
- kubernetes - 使用 CTR 导入图像会静默失败
- java - JaxB在soap请求中返回ElementNSImpl而不是对象,spring
- json - 使用 jq 拆分嵌套 JSON 对象的数组
- excel - 计算字符串中特定值的出现次数
- visual-studio - Visual Studio代码上的IOS模拟器问题
- ruby - ruby 中没有密钥(附加 IAM 角色)的 S3 存储桶访问
- bash - 在 bash 中使用大括号扩展时出现问题