postgresql - 如何避免特定于表的数据库错误以停止 Kafka Connect JDBCSinkConnector 中的所有数据流?
问题描述
我们有一个 Kafka -> Kafka Connect -> PostgreSQL 堆栈,它不断地将来自 Kafka 的数十个主题的数据写入 PostgreSQL 中的表。我的同事正在为我们的业务逻辑在 PostgreSQL 上开发触发器、函数和视图。有时我们会收到与开发这些触发器相关的数据库错误,这会将它们返回给 JDBCSinkConnector 任务,这会导致连接器失败并停止所有数据流。因此,如果单个表出现错误,所有表的数据流都会停止。errors.tolerance
设置为 all,但那些 DB 错误与数据无关。我产生了多个任务,但是当他们尝试将数据插入出现错误的表时,它们都在 5-10 分钟内一一失败。有没有办法解决这个问题,以便忽略有错误的表,但继续流向其他表?
解决方案
推荐阅读
- firebase - 在将其放入 Firestore 之前,使用函数对 HTTP 请求中的 JSON 数据进行排序
- docker - 如何使用“docker images”命令按大小对我的 Docker 图像进行排序?
- webgl - WebGL 检查哪个纹理单元绑定到制服
- java - 如何暂停 Runnable() 对象以进行测试
- kubernetes - Kubernetes ALB 入口:如何在入口资源上公开多个端口
- mysql - 数据适合行时的 VARCHAR 与 TEXT 性能
- php - ZipArchive 忽略放在 .zip 文件中的文件的 date_default_timezone_set
- android - 错误:程序类型已存在:android.support.v4.app.INotificationSideChannel
- android - 如何在 Nativescript Vue WebView 中启用 LocalStorage?
- android - Logcat 仅捕获应用程序日志,关闭开发人员选项