首页 > 解决方案 > Kafka - 主题、消费者组和消费者副本

问题描述

我是 Kafka 新手,想知道配置主题、分区、消费者组和消费者应用程序副本的最佳方法。

在现有设置上工作,传递的配置如下:

  1. 10个主题
  2. 每个主题都有自己的组,即topic1 -group1topic2-group2等。
  3. 每个主题有 5 个分区
  4. Java 消费者应用程序有 5 个(故意与分区数相同,我被告知)使用 Spring Kafka 的副本(k8s pod)@KafkaListener

Q1。我想知道这是否是提供最佳性能(高吞吐量和低延迟)的配置?

消费者应用程序仅将消息发送到一个下游系统,这让我认为所有主题(及其所有分区 + 消费者应用程序副本)都可以共享一个消费者组(我们称之为main-group)。

Q2。与为每个主题设置专门的小组相比,这会提供更好或更差的性能吗?


子问题:

Q3。ONE@KafkaListener是否可以处理 10 个主题,每个主题都有专门的消费者组,因为它只有 1 个containerGroup和 1 个containerFactory参数?

谢谢

标签: javaspring-bootapache-kafkaspring-kafkaconfluent-platform

解决方案


推荐阅读