apache-flink - 没有背压的 Apache Flink 和 Kafka 延迟
问题描述
我有 flink 应用程序,具有 48 个并行度(1 个 jobManager,3taskManagers)和近 2300-2400 个任务。
但有时 flink 并不能快速消耗 kafka 记录,这会导致延迟。
在图中,任何任务都没有背压(我从 prometheus 集成中得到了结果,flink_taskmanager_job_task_isBackPressured)
我主要使用rocksdb来存储状态,只有5-6个流(48个并行)正在使用registerProcessingTimeTimer()
没有检查点和保存点操作
可能是什么问题?(或者我应该向集群添加新节点?)
来自 kafka 记录的对象包含 24 个原始字段,1 个复杂对象(包括 15 个原始字段),1 个 map<String,String> 数据类型,1 个另一个复杂对象(包括 8 个原始字段),
解决方案
推荐阅读
- react-native - 屏幕之间导航但构造函数未调用
- c++ - “opt”不能出现在常量表达式中
- java - 是否可以使用 Swagger codegen 在多个目录中生成模型?
- grails - GORM 独立使用 Domain.findBy[property] 的问题
- architecture - 需要关于使用哪种方法进行信息亭软件开发的建议
- android - Android Studio does not recognise androidx preference library in xml
- java - android.database.sqlite.SQLiteException:靠近“UNION”:语法错误
- java - How can I disable Java EE interceptor on application start up, for example by condition from database logger=info?
- c++ - CMake - 为生成的项目定义 dll 目录或文件
- sql - 每个日期只选择一个具有 MAX(Id) 的产品