首页 > 解决方案 > UNKOWN_PRODUCER_ID 和删除 store-changelog 主题

问题描述

kafka-streams 根据我们的 kafka-stream 的拓扑创建了许多隐式主题,最近当我们在 avro 模式中进行了一些不兼容的更改时,我们告诉我们的管理员删除这些主题并为 kafka-stream 存储存储目录。

现在我们开始在日志中看到一些 UnkownProducerIdException。删除这些隐式主题会创建这样的异常吗?

我们总是假设,如果我们在重启 kafka-stream 应用程序时删除这些主题和存储,它们将自动创建和维护,这个假设是否正确?

我在 apache JIRA 中看到 UNKOWN_PRODUCER_ID 的 KAFKA-6817、KAFKA-7190 和 KIP-360 问题,但这些似乎与 out 没有直接关系。

对于我们的案例(更改的 AVRO 模式)应该采取什么正确的行动,我们是否允许删除那些隐含的主题并存储或者我们应该做其他事情。

'auto.topic.create.enable' 标志对这些隐式主题的创建也有影响吗?

谢谢回答。

标签: apache-kafka-streams

解决方案


现在我们开始在日志中看到一些 UnkownProducerIdException。删除这些隐式主题会创建这样的异常吗?

是的。

我们总是假设,如果我们在重启 kafka-stream 应用程序时删除这些主题和存储,它们将自动创建和维护,这个假设是否正确?

是的,Kafka Streams 将重新创建这些主题。

'auto.topic.create.enable' 标志对这些隐式主题的创建也有影响吗?

不。Kafka Streams 不依赖于自动创建主题(实际上,通常建议禁用自动创建主题),而是通过AdminClient.


推荐阅读