时间戳

首页 > 解决方案 > 从数据集中获取值成 .txt 文件（使用 Java）

java - 从数据集中获取值成 .txt 文件（使用 Java）

问题描述

我是新来的，所以我希望能帮助你并在可能的情况下得到帮助。

我在 Java 中使用 Spark SQL 和 ML Spark 制作了一个 Apache Spark 项目。我已经完成了这个项目，但我的输出有一些问题。

我有一个Dataset<Row>包含一些信息的最终结果（最终结果是数据集的名称）。当我使用show()这个数据集（finals.show();）时，我得到下一个信息：

    [2018026,1,9.93,127.66,5.16,245.8,4.426875,6.91]
    [2018026,1,9.97,127.89,5.36,244.8,4.426875,6.91]
    [2018026,1,6.76,113.54,6.42,228.8,4.426875,6.91]
    [2018026,1,6.92,114.2,6.81,224.0,4.426875,6.91]
    [2018026,1,6.86,113.98,6.65,226.0,4.426875,6.91]
    [2018026,1,6.81,113.76,6.58,227.4,4.426875,6.91]
    [2018026,1,6.97,113.49,6.58,225.8,4.426875,6.91]
    [2018026,1,6.97,114.42,6.67,221.6,4.426875,6.91]

（“，”是字段之间的分隔符）。好吧，我正在尝试在文本文件中获取此输出，例如 projectSpark.txt 但对我来说是不可能的。如何在文本文件中获取此信息？我应该迭代Dataset<Row>还是有一些方法可以做到这一点？

非常感谢你们。

问候。

标签： javaapache-sparkapache-spark-sqlbigdataapache-spark-dataset

解决方案

在 Java 中，您可以执行以下操作：

finals.javaRDD().map(x -> x.toString()).saveAsTextFile("your/path");

它将您的数据集保存在单个文本文件中。

推荐阅读