python - 掩蔽者在 SHAP 包中真正做了什么并适合他们训练或测试?
问题描述
我一直在尝试使用这个shap
包。我想从我的逻辑回归模型中确定形状值。与 相反TreeExplainer
,LinearExplainer
需要一个所谓的掩蔽器。这个掩码器到底做了什么,独立掩码器和分区掩码器有什么区别?
另外,我是否对测试集中的重要功能感兴趣。然后我是否将掩蔽器安装在训练集或测试集上?您可以在下面看到一段代码。
model = LogisticRegression(random_state = 1)
model.fit(X_train, y_train)
masker = shap.maskers.Independent(data = X_train)
**or**
masker = shap.maskers.Independent(data = X_test)
explainer = shap.LinearExplainer(model, masker = masker)
shap_val = explainer(X_test)```
解决方案
Masker 类提供了一个背景数据来“训练”你的解释器。即,在:
explainer = shap.LinearExplainer(model, masker = masker)
您正在使用由 masker 确定的背景数据(您可以通过访问masker.data
属性查看使用了哪些数据)。您可以在此处或此处阅读更多关于“真实模型”或“真实数据”的说明。
鉴于上面的计算,您可以同时执行以下操作:
masker = shap.maskers.Independent(data = X_train)
**or**
masker = shap.maskers.Independent(data = X_test)
explainer = shap.LinearExplainer(model, masker = masker)
但从概念上讲,imo以下内容更有意义:
masker = shap.maskers.Independent(data = X_train)
explainer = shap.LinearExplainer(model, masker = masker)
这类似于通常的train/test
范例,您在训练数据上训练您的模型(和解释器),并尝试预测(和解释)您的测试数据。
推荐阅读
- deep-learning - 为什么扩张卷积层不会降低感受野的分辨率?
- ios - iOS 屏幕录制 - 启用 Safari 音频?
- google-apps-script - 最新版本始终在 Google App Scripts Drive.Revisions.list 中显示同一用户
- search - 谁能告诉我我的二叉搜索树插入代码有什么问题
- java - using @InjectMocks outside @Before
- json - JsonSyntaxException Gson: Expected BEGIN_OBJECT but was STRING
- sql - Adding days between dates
- r - 代码性能:应用系列或优化的替代方案
- angular - docker-compose 卡在建筑上
- ffmpeg - ffmpeg 创建带有重复帧的缩略图精灵