首页 > 解决方案 > Confluent 云 S3 接收器连接器 - S3 对象的自定义对象名称

问题描述

我的Kafka消息将包含 UUID,它将成为所有未来通信的标识符。我为我的主题配置了一个s3-sink-connector使用默认命名约定(即<topic>+<kafkaPartition>+<startOffset>.<format>)将所有摄取的消息写入我的 S3 存储桶的主题。使用这些名称,很难识别给定消息 UUID 对应的 s3 对象。

有没有办法用原始消息的字段值之一定义 S3 对象名称?

提前致谢。

标签: amazon-s3apache-kafkaapache-kafka-connect

解决方案


您可以使用FieldPartitioner创建包含s3://bucket/uuid=xxx-yyy-zzz/topic.format文件的路径


推荐阅读