python - 计算增量/在线模型的形状值

Question

我的任务是计算SHAP样本的值。

k_explainer = shap.KernelExplainer(my_model.predict_proba, train_X)
k_shap_values = k_explainer.shap_values(data_for_prediction)

但我正在my_model逐步训练，所以只有一大块数据train_X_chunk_i可用，而不是整个train_X.
下面的代码行将替换 k_explainer，因为它更新了模型但没有更新以前的数据块。

k_explainer = shap.KernelExplainer(my_model.predict_proba, train_X_chunk_i)

所以，我不想k_explainer用新的数据块替换和更新。有什么方法可以存储和加载k_explainer？

标签： pythonmachine-learningdata-scienceshapshapley