apache-kafka-streams - UNKOWN_PRODUCER_ID 和删除 store-changelog 主题
问题描述
kafka-streams 根据我们的 kafka-stream 的拓扑创建了许多隐式主题,最近当我们在 avro 模式中进行了一些不兼容的更改时,我们告诉我们的管理员删除这些主题并为 kafka-stream 存储存储目录。
现在我们开始在日志中看到一些 UnkownProducerIdException。删除这些隐式主题会创建这样的异常吗?
我们总是假设,如果我们在重启 kafka-stream 应用程序时删除这些主题和存储,它们将自动创建和维护,这个假设是否正确?
我在 apache JIRA 中看到 UNKOWN_PRODUCER_ID 的 KAFKA-6817、KAFKA-7190 和 KIP-360 问题,但这些似乎与 out 没有直接关系。
对于我们的案例(更改的 AVRO 模式)应该采取什么正确的行动,我们是否允许删除那些隐含的主题并存储或者我们应该做其他事情。
'auto.topic.create.enable' 标志对这些隐式主题的创建也有影响吗?
谢谢回答。
解决方案
现在我们开始在日志中看到一些 UnkownProducerIdException。删除这些隐式主题会创建这样的异常吗?
是的。
我们总是假设,如果我们在重启 kafka-stream 应用程序时删除这些主题和存储,它们将自动创建和维护,这个假设是否正确?
是的,Kafka Streams 将重新创建这些主题。
'auto.topic.create.enable' 标志对这些隐式主题的创建也有影响吗?
不。Kafka Streams 不依赖于自动创建主题(实际上,通常建议禁用自动创建主题),而是通过AdminClient
.
推荐阅读
- java - 无法在 C:Program Files/apache-tomcat-8.5.57/conf 加载 Tomcat 服务器配置
- c++ - 使用 RAWVIDEO 编解码器和 RGB24 编码未压缩的 avi
- python - 不确定如何配置 WSGI 处理程序/Flask 以在 Python/App Engine 中启用 cron 作业
- typescript - VS Code 中多行字符串中的代码补全
- python - 如何在 Django 中使用切片过滤器?
- mysql - 将 JSON 数组附加到现有 JSON 列
- python - 如何使用 pyst 获取 SIP 对等体列表?
- spring-cloud-stream - Spring Cloud Stream - 本地消费者拦截消息并阻止其他人
- python - 如何获取列表中最接近的值?
- sql - 如何在 sql pivot 中获得以下输出