首页 > 解决方案 > 我们可以控制 Kafka Connect 等待连接到 Kafka 的时间吗?

问题描述

我们部署了一个 Kafka Connect 分布式集群,它连接到公共云提供商上的托管 Kafka 实例。我们最近遇到了一个问题,云提供商在身份验证中出现临时故障,导致我们的 Kafka Connect 实例在其日志中抛出如下错误:

May 3 21:35:21 kafkaconnect-deploy-xyz kafkaconnect-container-prod ERROR Error polling: org.apache.kafka.common.errors.SaslAuthenticationException: Authentication failed, unable to check credentials due to an internal error (org.apache.kafka.connect.util.KafkaBasedLog:274)

连锁反应是,这导致我们的一些源连接器和接收器连接器停止,这显然对操作产生了影响,几乎在一分钟后:

org.apache.kafka.common.errors.SaslAuthenticationException: Authentication failed, unable to check credentials due to an internal error
May 3 21:36:24 kafkaconnect-deploy-prod-xyz kafkaconnect-container-prod ERROR WorkerSinkTask{id=our_sink_connector_name} Task threw an uncaught and unrecoverable exception (org.apache.kafka.connect.runtime.WorkerTask:186)

在我们的连接器停止之前,我们可以配置 Kafka Connect 中的任何设置来增加此延迟和/或增加重试次数吗?我已经查看了Kafka Connect 的常规设置列表,它似乎offset.flush.interval.ms可能是正确的,但由于我们无法按需重新创建此问题,因此很高兴能够确认这一点。

标签: apache-kafkaapache-kafka-connect

解决方案


推荐阅读