lstm - 用于 LSTM 的 Shap - 时间步长的特征

Question

当我使用 LSTM 将我的特征（其中 29 个）作为时间步长提供时，我正在寻求有关如何使用 Shap 进行可解释性的指导。

所以我的训练数据集有 shape (samples,29,1)。

标签： lstmshap

Answer 1

要获得解释，您可以将每个时间步长视为一个单独的特征。

但是，您应该知道 SHAP 会掩盖/隐藏特征以确定它们的重要性。如何屏蔽特征很重要，而且时间序列数据在不将伪影引入输入数据的情况下屏蔽特征更加棘手。因此，更好的方法是考虑到这一点并构建自己的shap.maskers.Masker子类，以一种现实的方式屏蔽数据（比如用它们的相邻值填充屏蔽值）。向库中添加时间序列掩码器也可以作为功能请求/PR 发布。