首页 > 解决方案 > 用于元数据和块位置的 Spark 内存缓存

问题描述

为了 Spark 低延迟作业,Spark Job Server 提供了Persistent Context 选项。但我不确定,持久上下文是否包含元数据、块位置和查询计划所需的任何其他信息?. 默认情况下,Spark 应从 Hive Metastore(磁盘 IO/网络)读取此信息。

Spark 是否有任何选项可以将查询计划所需的所有信息保留在内存中?

标签: apache-sparkhivespark-jobserver

解决方案


推荐阅读