apache-spark - 在 dataproc 上以客户端模式运行 spark 驱动程序的位置?
问题描述
如果我没记错的话,dataproc 默认在客户端模式下在 YARN 上提交 spark 应用程序。
因此,当我从笔记本电脑提交应用程序时,驱动程序应该在我的笔记本电脑上运行。
尽管如此,我终止了该进程,并且该作业仍在运行。
我想知道司机跑哪去了?
解决方案
我在文档中找不到答案,但我的团队在 Dataproc 上测试了客户端和集群模式。我们使用客户端模式,因为驱动程序在集群的主节点上运行,通过此配置,我们可以分别扩展驱动程序(主机类型)和工作程序。在集群模式下,驱动程序在其中一个工作人员上运行。
推荐阅读
- python - 在 Python 中求解向量 ODE
- javascript - 如果在javascript中调用另一个函数,如何停止一个函数
- c++ - C++ 没有改变变量值
- python - 如何从 Python 中的字典值中提取部分 url?
- visual-studio - Visual Studio Online 项目中的项目?
- c# - 如何计算行数
- c++ - 不确定如何使用函数,必须遵循特定的准则
- linux - 只需要在 Linux 上使用 perl 对元音字符进行着色
- nrpe - Nagios CHECK_NRPE 无法完成 SSL 握手
- java - 程序给出了奇怪的“BadValue”错误消息,没有错误行号,调试器不起作用