apache-kafka - 消耗 n 条记录中的 min 和 max n 条记录,但在等待 m 秒后返回记录
问题描述
我有一个用例,消费者必须消耗最少的 n 条记录才能开始下一次处理,但在等待 m 秒后,必须返回 p < n 的 p 条记录。有没有办法在kafka中实现这一点?我可以配置最小获取大小和最大轮询记录来控制记录数,但不确定如何实现问题的第二部分。
解决方案
没有fetch.min.records
消费者财产。
如果您的记录大小相似,您可以使用fetch.min.bytes
和来近似您的算法fetch.max.wait.ms
。
max.poll.records
除非 n 条记录已经可用,否则对您并没有真正的帮助。
推荐阅读
- if-statement - 创建嵌套 if 语句。如果单元格 K2 或 D2 在
- python - 将多个蜘蛛的输出捕获到单个输出文件/变量中的正确“抓取”方式是什么?
- powershell - 枚举给定 ProgID 的 COM 对象公开的方法和属性
- java - 如何在android应用程序中删除全屏模式
- ajax - 通过 sente web-socket 通道对应该是单个请求的不间断请求
- python - 如何在 Python 中使用 Paramiko 连接到公共 FTP 服务器?
- javascript - Vanilla JavaScript for-of 循环不会完成所有迭代
- deep-learning - 损失之间的权衡?
- c++ - 未解析的外部使用 fmt::format 返回 std::wstring
- ruby - Chef-server 当目录操作删除失败时如何执行资源?