watson-openscale - 关于解释任务响应对比解释部分重要性解释的问题
问题描述
我想知道在获得解释任务响应时如何解释对比解释部分中的“重要性”值。请参阅https://cloud.ibm.com/apidocs/ai-openscale#get-explanation-task > entity > contrastive_explanation > pertinent_positive_features(以及 pertinent_negative_features)。
与输入特征相比,一些没有改变的特征的重要性似乎很高,而与输入相比,价值已经改变的一些特征的重要性似乎很低。我试图了解返回的所有特征中哪些是关键——我首先选择了与输入特征相比发生变化的那些,但由于这与重要性值不一致,我想更好地理解这个重要性代表?
例如:
"input_features": [
{
"feature_type": "categorical",
"name": "CheckingStatus",
"value": "less_0"
},
...
和
"contrastive_explanation": {
"pertinent_positive_features": [
...
{
"feature_value": "no_checking",
"importance": "0.0",
"feature_name": "CheckingStatus"
},
该功能已更改,但其对相关积极功能的重要性为 0?
解决方案
相关阳性特征的重要性计算为从中值到相关阳性特征值所需的变化。例如,如果特征 F1 在其相关正数中具有值 20,并且 f1 的中值为 2,则重要性取决于 20 和 2 之间的距离(即 18)。我们还考虑了标准偏差以标准化不同特征之间的距离。因此,可能会发生在 PP 中其值没有改变的特征具有高权重(如果该值远离其中值)。因此,权重是衡量 PP 特征值与其中值相差多远的量度。
话虽如此,查看特征重要性的另一种方法是查看那些已更改的特征。
谢谢,马尼什
推荐阅读
- gzip - 使用 tar 排除隐藏的点文件
- css - 下拉列表中的复选框重叠
- android - 约束布局为不同的屏幕支持正确的边距和大小
- java - 如何处理这个特定的弹出窗口..这只发生在 Firefox
- nginx - Nginx-Ingress 有时无法重写路径
- flutter - 当它被聚焦时,颤动会改变 GestureDetector 内 Container 的颜色
- python - 如何使用 NVIDIA “cuda toolkit” 版本而不是官方 conda “cudatoolkit” 版本运行 pytorch?
- java - MongoDB 连接立即关闭 - Java
- javascript - 使用带有变量的括号表示法来访问对象属性返回未定义
- python - 引发异常时如何发送通知电子邮件?