python - Eli5 展示 Modelweights

Question

我想知道 Eli5 如何帮助我解释我的模型。我看过并阅读了很多教程，但它们都是针对未经训练的模型的。但是我自己用 Keras 开发了一个网络来对文本进行分类，并保存了他们的模型。现在我想知道如何在这个模型上使用 Eli5 来查看我的套装的哪个部分更重。

import eli5
import tensorflow as tf

model = tf.keras.models.load_model(path)

eli5.show_prediction(model)
eli5.show_weights(model)

标签： pythontext-classificationinterpretationeli5