apache-kafka - Apache Kafka:一段时间后将消息发送到另一个主题
问题描述
我是 Apache Kafka 的新手,所以这可能是基础知识。
目前,我试图找出 Kafka 为我提供的一些可能性和功能。所以我想知道是否可以在指定时间段后将消息移动到另一个主题。
场景:
生产者 1 将消息 (M1) 写入主题 1,消费者 1 处理消息。
一段时间后,比方说 1 小时,M1 移动到消费者 2 订阅的主题 2。
可以用 Kafka 做类似的事情吗?我知道有一种方法可以在一段时间后删除一条消息,但我不知道是否有一种方法可以更改主题或捕获删除操作。
我曾想过在 Producer 中运行一个计时器,但由于数据量巨大,我认为这已经不可能了。
提前致谢
编辑:
感谢@OneCricketeer,我知道,我对几个制作人的第一个假设并没有那么糟糕。我知道一个 Producer 的吞吐量非常好,而且不会让系统崩溃。但我仍然对第二个制片人感到担忧。
在我的想象中,它就像下面的粗略图像
当我每分钟接收 30 条消息时,这意味着我将拥有 31 个生产者实例。1 人尽快处理消息,其他 30 人等待计时器确定,以便他们可以处理他们的消息。
算上一个小时,大约有 1800 个实例。这就是我关心的地方。还是有更好的方法来处理这个?
解决方案
推荐阅读
- java - 使用 Spring @Query 注释在 MongoDB 文档中删除数组字段的对象
- json - 使用 Powershell 将 JSON 数据转换为属性格式
- javascript - 如何在javascript提交之前检查Django的自动表单验证结果
- android - 无法使用 flutter_inappwebview 将捕获的图像保存到图库
- php - 使用 #, | 提取字符串 和 % 分隔符到使用 PHP 的 HTML 表中
- javascript - 如何在 Angular 12 中使用 IxJS
- html - 具有多个 HTML 值的 Powershell Hashtable
- operating-system - 虚拟地址空间和虚拟内存有什么区别?
- javascript - 如何检测浏览器对输入的自动对焦(窗口切换后)
- sharepoint - 使用 PnP.js 为 SharePoint 文档创建限时共享链接