首页 > 解决方案 > 当我在服务器上运行实例时,我可以在本地浏览器中获得用于 spark 的 Web UI 吗?

问题描述

所以我在一个地方工作,我有一台笔记本电脑,每天我使用 shell 连接到远程服务器,并在服务器上做所有事情(运行 jupyter notebook,使用 pyspark 进行 spark 作业)。

我想记录我在运行 Spark 作业时使用的所有服务器资源(内存、cpu 使用情况等)。我虽然可以做到这一点的一种方法是查看 Web UI,但我无法连接到 Web UI。

我使用 sc._conf.getAll() 获得了我的驱动程序 ip、端口和所有内容的所有属性但无法连接。

标签: apache-sparkpyspark

解决方案


推荐阅读