首页 > 解决方案 > PYSPARK_PYTHON 环境变量是否仅适用于登录用户?

问题描述

这可能更像是一个 Linux 问题,但我正在运行一个带有 UDF 的 Pyspark 作业,该 UDF 依赖于 Python3(不是 Python2)的内置模块。所以,基本上工作炸弹因为执行程序/驱动程序正在运行 Python2。无论如何,我想设置PYSPARK_PYTHON环境变量以使用 Python3,但我在其他人用来执行 Pyspark 作业的系统上。我使用特定的用户帐户来执行我的工作,所以我只想确定我是否设置了该PYSPARK_PYTHON变量,它只适用于我的帐户,而不是如果执行程序 python 版本由于我的设置而突然改变可能影响的其他人这个。

标签: apache-sparkpyspark

解决方案


推荐阅读