apache-spark - 使用 externalShuffle 服务在 Spark 中清理文件

Question

我们正在使用具有动态分配和外部随机播放服务的 Spark 3.0.1（独立模式）。

切换到专用永久性磁盘后，我们开始出现“磁盘空间不足错误”，因此我们查看 /tmp 文件夹并注意到许多旧的应用程序 shuffle 文件仍然存在，这有点可以理解，因为只要 shuffle 文件应该保持可用工人还活着。

但是这些文件在什么时候被删除？我假设在作业完成时不再需要洗牌文件并且可以（并且应该）删除，但是查看 spark 代码库（ExternalShuffleBlockResolver）它显示目录清理器仅在以下情况下触发：

• applicationRemoved - 删除整个执行程序目录（包括随机文件）
• executorRemoved - 只删除非随机文件

我错过了什么吗？什么服务应该清理已完成/失败作业的 shuffle 文件？

请注意，我们使用多租户架构，这意味着我们的 spark 应用程序充当多个请求的服务器。

标签： apache-sparkapache-spark-standalone