首页 > 解决方案 > 为什么在本地机器上的纱线上运行 spark 时 hdfs 下的 spark .sparkStaging 文件夹?

问题描述

我想弄清楚为什么我的 spark .sparkStaging 文件夹默认位于本地 hdfs 上的 /user/name/ 文件夹下?我从来没有为 spark 设置工作目录。因此,为什么以及如何使用 hdfs 获得这个集合?什么配置为此设置了默认值。我在 UI 选项卡中检查了 spark 环境和 yarn 的配置,但我看不到任何设置它的东西。有人可以给我一个提示吗?

标签: apache-sparkhadoop-yarn

解决方案


推荐阅读