apache-spark - 无法通过 sparklyr 连接到独立的 spark 集群。如何调试?
问题描述
我可以确认使用spark-shell
例如连接到集群
spark-shell --master spark://myurl:7077
作品
但
library(sparklyr)
sc <- spark_connect(
master="spark://myurl:7077",
spark_home = "d:/spark/spark-2.4.4-bin-hadoop2.7/"
)
没有并给出错误
Error in force(code) :
Failed while connecting to sparklyr to port (8880) for sessionid (59811): Gateway in localhost:8880 did not respond.
Path: d:\spark\spark-2.4.4-bin-hadoop2.7\bin\spark-submit2.cmd
Parameters: --class, sparklyr.Shell, "C:\Users\user1\Documents\R\win-library\3.6\sparklyr\java\sparklyr-2.3-2.11.jar", 8880, 59811
Log: C:\Users\user1\AppData\Local\Temp\RtmpottVxI\file66ec13ea6ef0_spark.log
---- Output Log ----
Error: Could not create the Java Virtual Machine.
Error: A fatal exception has occurred. Program will exit.
Invalid maximum heap size: -Xmx10g
The specified size exceeds the maximum representable size.
解决方案
原来我需要安装 Java 8 JDK 而不是 JRE。
推荐阅读
- java - SeachView 不使用全宽
- kubernetes - Kuberenetes 调度:如何实现深度优先调度行为?
- javascript - 向对象添加一个简单的嵌套字段
- scala - 我有一个问题。关于 envn 索引的 scala 列表分区
- html - 正则表达式:过滤掉以某个字符串开头的组
- android - applicationContext recycleview 元素的未解决参考(适用于 android 的 kotlin 应用程序)
- sql - 使用 SQL 在 Access 中的 5 个表上进行内连接和左连接
- c# - 单击按钮时如何更改窗体中文本的颜色?
- python - 如何将 5 个数据框的列合并为一个数据框?
- c# - 在 Entity Framework Core 3 中播种用户和角色