python - 如何为特定类别识别最相关的过滤器

Question

假设我有二进制分类任务并且我正在使用 CNN。简单地可视化 CNN 并不是很有帮助，因为输入不是图像。但是，我想知道哪些特定过滤器对将输入样本视为特定类的贡献最大。给定以下架构（使用 Keras 实现），我该如何实现？

model = Sequential()
model.add(Conv2D(32, kernel_size=(10, 3),
                 activation='relu',
                 input_shape=input_shape))
model.add(Conv2D(64, (10, 3), activation='relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Dropout(0.25))
model.add(Flatten())
model.add(Dense(128, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(2, activation='sigmoid'))

model.compile(loss='binary_crossentropy',
              optimizer=keras.optimizers.Adadelta(),
              metrics=['accuracy'])

我探索了资源A和B。但似乎对我想做的事情都没有帮助。如果有其他建议可以了解网络对非图像数据集的学习内容，那将非常有帮助。

标签： pythonmachine-learningkerasneural-network