apache-kafka - 我们可以控制 Kafka Connect 等待连接到 Kafka 的时间吗?
问题描述
我们部署了一个 Kafka Connect 分布式集群,它连接到公共云提供商上的托管 Kafka 实例。我们最近遇到了一个问题,云提供商在身份验证中出现临时故障,导致我们的 Kafka Connect 实例在其日志中抛出如下错误:
May 3 21:35:21 kafkaconnect-deploy-xyz kafkaconnect-container-prod ERROR Error polling: org.apache.kafka.common.errors.SaslAuthenticationException: Authentication failed, unable to check credentials due to an internal error (org.apache.kafka.connect.util.KafkaBasedLog:274)
连锁反应是,这导致我们的一些源连接器和接收器连接器停止,这显然对操作产生了影响,几乎在一分钟后:
org.apache.kafka.common.errors.SaslAuthenticationException: Authentication failed, unable to check credentials due to an internal error
May 3 21:36:24 kafkaconnect-deploy-prod-xyz kafkaconnect-container-prod ERROR WorkerSinkTask{id=our_sink_connector_name} Task threw an uncaught and unrecoverable exception (org.apache.kafka.connect.runtime.WorkerTask:186)
在我们的连接器停止之前,我们可以配置 Kafka Connect 中的任何设置来增加此延迟和/或增加重试次数吗?我已经查看了Kafka Connect 的常规设置列表,它似乎offset.flush.interval.ms
可能是正确的,但由于我们无法按需重新创建此问题,因此很高兴能够确认这一点。
解决方案
推荐阅读
- wso2 - WSO2 是否也支持单点注销?
- javascript - How to run node.js application from script?
- redis - 在 Pi 上安装 Redis 时出现问题
- upgrade - 非后续次要版本之间的 Hazelcast 滚动升级
- repo - 如何在 repo 同步时显示哪些存储库发生了变化
- javascript - 如何防止嵌套模式的插件
- ruby-on-rails - Rails 6:如何通过 webpacker 添加 jquery-ui?
- qt - 如何通过更改鼠标光标使 QML 中的图像看起来可点击?
- c++ - 如何在无限循环中启动和停止(切换)多个线程
- javascript - 如何将参数传递给 onQuerySucceeded 函数