apache-kafka - Confluent 5.0.0 kafka connect hdfs sink：升级后无法描述kafka connect consumer group lag

Question

我们从 Confluent 4.0.0 升级到 5.0.0，升级后我们无法列出 kafka connect hdfs sink connector consumer lag。

$ /opt/kafka/bin/kafka-consumer-groups.sh --bootstrap-server <hostname>:9092 --list | grep scribe_log_backend
Note: This will not show information about old Zookeeper-based consumers.
connect-kconn_scribe_log_backend
$ /opt/kafka/bin/kafka-consumer-groups.sh --bootstrap-server <hostname>:9092 --group connect-kconn_scribe_log_backend --describe
Note: This will not show information about old Zookeeper-based consumers.
$ 

是否对 kafka 2.0/confluent 5.0.0 中的消费者组命令进行了任何修改？我如何根据这个滞后跟踪我们需要提醒的滞后？我们的经纪人在 kafka 版本 1.1.0 上运行。升级后也看不到kafka manager中的connect consumer group。kafka connect 没有问题，因为连接器能够写入 hdfs。谢谢。

标签： apache-kafkaconfluent-platform

Answer 1

Kafka Connect HDFS 连接器不再提交偏移量，因此没有任何基于延迟计算的基础。

PS。恢复是基于文件命名约定是HDFS，文件名有分区和偏移信息。