scala - Spark Structured Streaming 从 kafka 读取不同的事件类型
问题描述
我有一个包含多种事件类型的 kafka 主题。
我的活动价值如下:
type|name|value1|value2|value3
type|name|value1|value2|value3|value4
type|name|value1|value2
我使用结构化流来读取流 kafka。我想将流数据存储到数据框。结果数据框具有包含所有模式中的列的模式。我可以将每种类型的事件记录存储在数据框中,然后从这些数据框中进行选择并将它们合并以生成数据框吗?
解决方案
推荐阅读
- nginx - 如何使用 Nginx 服务 Senaite LIMS (Plone 4.3.19)?
- excel - 跨多列的 Excel 中位数
- regex - 如果不是特定短语的一部分,则正则表达式匹配单词
- excel - Excel:仅在与名称匹配的行中计算带有“Apple”的单元格
- ios - 如何在 AVCaptureDevice 上准确设置快速快门速度(曝光时间)?
- php - 我所有的 JSON 输出(来自 Laravel API 应用程序)都包含在数据标签中,我该如何删除它?
- java - Smack XMPP Java:如何访问 ByteStreamRequest (OPEN) 的原始 XML 表示?
- c# - 如果使用 PSExec 运行 .exe 文件,则访问被拒绝,如果在没有 PSExec 的情况下运行,则被批准
- python - 如何在python中成为int数组?
- php - 如何访问使用表单构建器构建的表单的 POST 字段?