首页 > 解决方案 > Scala Spark - 将数据框转换为没有案例类的嵌套数据框?

问题描述

数据源是 CSV 文件 -> 读入 DF -> 制作嵌套 DF -> 写入 Json

我想采用扁平化的 DF 并将模式转换为嵌套的 DF。

对于 EX:DF1 模式:|c0|c1|c2|c3|

嵌套 DF 模式:

标题 |c0|c1|

主体 |c3|c4|

方法 #1:使用 StructType 和 StructFields,创建一个模式。使用此模式创建嵌套的 DF。

方法#2:是否可以在将 DF 写入 Json 时定义模式?

任何有关如何实施的建议都会有所帮助。

标签: scala

解决方案


推荐阅读