linux - spark 作业在客户端模式下运行,但由于权限问题而不能在集群模式下运行
问题描述
我正在使用 spark-sbumit 脚本文件运行我的 spark-job,如下所示
export SPARK_HOME=/local/apps/analytics/spark-2.4.1-bin-hadoop2.7
$SPARK_HOME/bin/spark-submit \
--master yarn \
--deploy-mode client\
当我以集群模式运行它时,即
--deploy-mode client\
它给出如下错误:
INFO yarn.Client:
client token: N/A
diagnostics: User class threw exception: org.apache.hadoop.security.AccessControlException: Permission denied: user=analytics, access=WRITE, inode="/tmp/hadoop-egsadmin/nm-local-dir/usercache"
at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.check(FSPermissionChecker.java:350)
如何解决这个问题?这里有什么问题?
解决方案
推荐阅读
- python - 从列中搜索行(&不是|)上的一组值
- linux - 如何从 tty 读取串行输入并将其写入 Linux 中的文件?
- php - PHP 简码产生意想不到的结果
- java - Junit 5 的 assertEquals 精度为 double
- java - Selenium - Java:有没有办法使用 WebElement 而不是按类获取定位器
- python - 有没有我可以在 python 中使用的函数来实现 Matlab 函数 qtdecomp?
- dns - 为什么域名中的资源(例如hello.jpg)访问无效,但IP地址有效
- ios - Swift:如何在返回类型为 self 的协议中声明 func?
- html - CSS绝对位置子菜单在父容器上显示滚动条
- php - 我无法在我的自定义插件 php 类中挂接到 wpcf7_mail_sent