java - 查询中的 Spark-sql 错误:不支持的 java 类型类 java.util.ArrayList
问题描述
现在我们将 hive 转移到 spark-sql。我们创建一些使用 ETL 的 UDF。当使用FUNC (X) -- 返回一个 ArrayList。在蜂巢中是正确的。但相同的 FUNC 使用 spark-sql 会抛出: Spark-sql 查询中的错误:不支持的 java 类型类 java.util.ArrayList。下面是我的简单代码
import java.util.ArrayList;
public class Array_Test extends UDF{
public static ArrayList<String> evaluate(String jsonArrayStr) {
ArrayList<String> textList = new ArrayList<String>();
textList.add(jsonArrayStr);
return textList;
}
}
谁能知道为什么?我们使用的 spark vesrion 是 SPARK2-2.1.0.cloudera2-1.cdh5.7.0.p0.171658.hive 版本是 1.1.0-cdh5.15.2。
坦斯克
解决方案
推荐阅读
- pyspark - Inner Join On (Hive) 给出与 PySpark Inner Join 不同的结果
- stackdriver - Stackdriver:基于涉及两个用户定义指标的简单算法创建警报政策
- javascript - 如果我点击一个链接,我想得到它的查询字符串
- html - 如何让顶部栏(导航栏)不遮挡图像并随之滚动?
- amazon-web-services - 无法识别的验证身份验证挑战 Lambda 响应 C#
- r - 如何通过 facet 或 group 将中断值传递给 stat_contour
- kubernetes - 在 K8s 中安装订单
- android - 如何获得最新的 Room 版本?
- node.js - Reactjs 无法建立套接字连接,它在调用 componentDidMount 时打开并获得响应
- java - Android:无法添加附件:`SecurityException when openAssetFileDescriptor`