首页 > 解决方案 > map 函数没有在 Apache spark 中被调用

问题描述

我写map了没有被执行的函数。

下面是我的代码,它在语法上是正确的,但没有被执行。

Dataset<TransactionPritmAndSummarySparkVO> currencyConvertedDS =
    filteredExOutputDS.map(vo -> dummyMap(vo), txnPritmAndSummaryOutputEncoder);

currencyConvertedDS.show();

private static TransactionPritmAndSummarySparkVO dummyMap(TransactionPritmAndSummarySparkVO vo) {
    System.out.println("SUMMARY_ID is " + vo.getSUMMARY_ID());
    return vo;
}

预期输出currencyConvertedDS在日志中显示 6 行数据集的结果。

实际结果:显示的一行没有任何值。

这是一个简单的map操作,不知道为什么无法执行?

使用的 Spark 版本:2.3.0

标签: javaapache-spark

解决方案


推荐阅读