时间戳

首页 > 解决方案 > DCOS 集群上的 Spark 提交失败并显示“仅通过 REST 提交 API 支持 Mesos 集群模式”

apache-spark - DCOS 集群上的 Spark 提交失败并显示“仅通过 REST 提交 API 支持 Mesos 集群模式”

问题描述

我正在尝试在spark-submit本地运行一个 ssh-tunneled 到我的 mesos 主服务器：

ssh -L 7077:spark-dispatcher.marathon.l4lb.thisdcos.directory:7077 pkara@dcos-master01.mydomain.com

但是我收到以下错误

./spark-submit --deploy-mode cluster --master mesos://localhost:7077 --conf spark.mesos.driverEnv.MYSQL_HOSTNAME= ...

2018-11-14 11:14:18 WARN  NativeCodeLoader:62 - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
Exception in thread "main" java.lang.AssertionError: assertion failed: Mesos cluster mode is only supported through the REST submission API
    at scala.Predef$.assert(Predef.scala:170)
    at org.apache.spark.deploy.SparkSubmit.prepareSubmitEnvironment(SparkSubmit.scala:673)
    at org.apache.spark.deploy.SparkSubmit.submit(SparkSubmit.scala:143)
    at org.apache.spark.deploy.SparkSubmit.doSubmit(SparkSubmit.scala:86)
    at org.apache.spark.deploy.SparkSubmit$$anon$2.doSubmit(SparkSubmit.scala:924)
    at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:933)
    at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)

标签： apache-sparkmesosdcos

解决方案

由于某种原因，当我添加时问题就消失了

--conf spark.master.rest.enabled=true

推荐阅读