docker - 使用 docker 镜像在 Mesos 上运行 Spark
问题描述
我在使用 docker 在 Mesos 上运行 spark 时遇到问题。
集群详情:
3 个节点 mesos 集群(M1 - Mesos 主节点,M2 和 M3 - Mesos 从节点)
操作系统:CentOS
我可以在没有 Docker 的情况下在 Mesos 上运行 spark 应用程序,但是当我尝试使用 docker(Spark 部署模式 - 集群)时,我注意到以下内容
- 执行器在 2 个 mesos slave(M2 和 M3)上启动
- 司机在M2
- M3 上的执行程序无法与 M2 上的驱动程序容器通信(执行程序正在尝试联系 127.0.0.1 上的驱动程序)
- M2 上的执行程序能够联系同一台机器上的驱动程序,并且应用程序也完成了。
问题
我需要设置网络以使 Docker 工作吗?
Mesos 中默认的 docker 网络设置是什么?
解决方案
推荐阅读
- c# - CollectionView 中的空白
- flutter - 扑。如何让 AnimationBuilder 监听多个动画?
- go - Golang 中的 TCP 连接池
- c - 在所有生产者结束后如何正确终止多个消费者?
- google-chrome - Folium choropleth 地图在 Jupyter 笔记本上使用 Chrome 和 Firefox 留空
- c++ - C ++如何从父级调用子方法
- orientation - 如何在 MeshLab 中标准化多个相互不同的 PLY 模型的方向?
- node.js - .then() 在 node.js 中不起作用
- python - 如何让我的 pyinstaller 编译的应用程序由具有标准权限的用户运行?
- c++ - /usr/local/Cellar/gcc/10.2.0/include/c++/10.2.0/cwchar:44:10:致命错误:wchar.h:没有这样的文件或目录(Homebrew GCC 编译器不工作)