apache-kafka - 如何在使用 S3 sink 连接器时增加现有主题的分区
问题描述
我正在使用 S3 sink 连接器和 kafka connect 并尝试将数据加载到 s3 。不知何故,我无法更新或增加主题分区的大小,也无法更改 offset.flush.timeout.ms 值。我正在尝试将其添加到我正在使用的 S3 连接器 curl 文件中,但没有任何更新。
{
"name": "my-s3-sink3",
"config": {
"connector.class" : "io.confluent.connect.s3.S3SinkConnector",
"tasks.max" : "1",
"topics" : "mysource.topic",
"s3.region" : "us-east-1",
"s3.bucket.name" : "topicbucket001",
"s3.part.size" : "5242880",
"flush.size" : "1",
"key.converter" : "org.apache.kafka.connect.storage.StringConverter",
"value.converter" : "org.apache.kafka.connect.json.JsonConverter",
"value.converter.schemas.enable": "false",
"storage.class" : "io.confluent.connect.s3.storage.S3Storage",
"format.class" : "io.confluent.connect.s3.format.json.JsonFormat",
"partitioner.class" : "io.confluent.connect.storage.partitioner.DefaultPartitioner",
"schema.compatibility" : "NONE"
"offset.flush.timeout.ms" : 1000
"topic.creation.default.replication.factor": 3,
"topic.creation.default.partitions": 10,
"topic.creation.default.compression.type": "snappy"
}
}
解决方案
推荐阅读
- java-8 - 使用 Java 进行 Tally 集成
- kubernetes-operator - kubernetes 运算符,如何在描述中隐藏属性值
- android - 折叠时的Android多行通知
- c - 在链表中获取头值总是等于NULL?
- swift - 如何查看 URLSession.dataTaskPublisher 的当前进度?
- python-3.x - TypeError: cannot serialize '_io.TextIOWrapper' object--------可能是多处理的问题
- android - 发布版本 Android 中应用程序的不同行为
- python - 如何使用 python 从 MS Access 数据库中检索所有已保存的查询?
- python - 在 django 中使用 url
- java - LibGDX Scene2D 是一种实现 GUI 比例设置的不同方式,而不是将所有内容乘以常数?