首页 > 解决方案 > 在没有 spark-submit 但使用 java 的情况下在 YARN 上运行 Spark

问题描述

在使用 YARN 的 HDP 2.4 Hadoop 集群中,我想知道是否可以在没有使用spark-submit --master=yarn程序的情况下运行 Java Apache Spark 程序,而是直接通过 Java 运行?(或者如果这真的是一个不好的做法)。

我的用例是有一个 Java 守护程序,它带来一个 HTTP API 来在不同的 HDP 集群上执行 Spark 作业。

标签: apache-sparkhadoop-yarn

解决方案


推荐阅读