python-3.x - Kafka 消费者没有从 offset#0 开始处理
问题描述
我有一个单分区的主题。我有 2 个不同的消费群体。每个消费者组都有一个消费者。从那时起,消费者组#1 一直在运行;我开始制作人。另一方面,Consumer group#2 刚开始使用 auto.offset.reset=earliest 参数。
不过,消费者组#2 开始使用最近重写的消息。
Q1:如何强制消费者组#2 中的消费者从头开始?
Q2:为什么auto.offset.reset(https://kafka.apache.org/documentation/-当Kafka中没有初始偏移或者服务器上不再存在当前偏移时该怎么办)不起作用? 因为它没有像我预期的那样工作;这意味着我没有正确理解它。
Kafka 2.11-0.11.0.1
Confluent-python v0.11.5
from confluent_kafka import Consumer, KafkaError
c = Consumer({
'bootstrap.servers': 'mybroker',
'group.id': 'mygroup', # I update group.id everytime I run
'auto.offset.reset': 'earliest'
})
c.subscribe(['mytopic'])
while True:
msg = c.poll(1.0)
if msg is None:
continue
if msg.error():
print("Consumer error: {}".format(msg.error()))
continue
print('Received message: {}'.format(msg.value().decode('utf-8')))
c.close()
结论:python 的 Confluent API 似乎有问题。因为 auto.offset.reset 适用于 Java 客户端。
解决方案
推荐阅读
- android - Android:徽章周围的图像透明蒙版
- java - Android Studio 中的正确边距布局
- javascript - 使用Javascript根据索引将一个数组拆分为多个数组
- php - Windows 升级后 xampp 服务器不工作,我想在新窗口 11 中备份我的旧项目数据
- ios - viewport-fit=cover 不将视口扩展到 iOS Safari 上的状态栏区域(缺口附近)
- arrays - Laravel Collection/Array 找出两个结果之间的差异
- python - 如何在 Windows 11 中正确设置 pyspark?
- firebase - 由于双重加载配置错误,无法部署 Firebase 功能
- java - 我如何让用户将图像从画廊保存到他的 SharedPreferences?
- android - Android:在画布上使用适当的 x 和 y 位置以及 scaleX 和 scaleY 因子缩放位图和文本