首页 > 解决方案 > 无法从 R shell 连接到 Spark 1.6.0

问题描述

在我的环境中,我有 2 个不同版本的 Spark(2.2.0 和 1.6.0)。我正在尝试从 R 连接到 Spark 1.6.0,但无法与文档中给出的指南建立连接。

我在用:

spark_connect(
   master = "yarn-client",  
   config = spark_config(), version = "1.6.0", 
   spark_home = '/opt/cloudera/parcels/CDH-5.12.1-1.cdh5.12.1.p0.3/lib/spark')

但我收到以下错误:

Error in force(code) :
  Failed during initialize_connection: Failed to detect version from SPARK_HOME or SPARK_HOME_VERSION. Try passing the spark version explicitly.
Log: /tmp/RtmplCevTH/file1b51126856258_spark.log

我能够毫无问题地连接到 Spark 2.2.0,并且还能够查询数据。

请注意我做错了什么。

标签: rapache-sparkcloudera-cdhsparklyr

解决方案


推荐阅读