apache-kafka - Kafka:获取偏移量超出分区范围。如何避免数据丢失?
问题描述
Fetcher INFO : Fetch offset .... is out of range for partition ..., resetting offset
试图了解发生这种情况时会发生什么。如果我们试图读取的偏移量丢失(我假设是因为 kafka GC'ed theoffet),auto.offset.reset = latest
我们是否将数据跳过到最新的偏移量?
避免数据丢失的安全配置是什么?
解决方案
对我来说,我通过在我的 KafkaConsumer 配置中添加以下行来修复它
properties.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "earliest");
推荐阅读
- pytorch - 如何重用后向传递原语?
- python-3.x - 如何在 QTreeView 中为文件类型使用系统默认图标
- discord.js - 更改语音通道服务器区域不和谐 js
- kubernetes - 来自我们的 AKS 集群的间歇性响应;怀疑负载均衡器问题
- java - Eclipse Javafx 可运行 Jar
- sql - 寻找返回传递参数的最佳方法,以允许我在 SQL 中返回特定客户或所有客户
- html-email - 将带有链接的 HTML 电子邮件直接发送回应用程序,我们如何禁用以便“预览”或扫描不会点击这些链接?
- ruby-on-rails - graphql过滤单元测试
- javascript - 如何使输入->值->类型->搜索动态?
- javascript - 将文件的base64值发送到api