python - CatBoost LossFunctionChange 中的负特征重要性值

Question

我正在使用 CatBoost 进行排名任务。我使用 QueryRMSE 作为我的损失函数。我注意到某些特征，特征重要性值为负数，我不知道如何解释它们。

它在文档中说，第 i 个特征重要性计算为损失（排除第 i 个特征的模型）-损失（模型）之间的差异。

所以一个负的特征重要性值意味着这个特征让我的损失增加了？那说明什么呢？

标签： pythonmachine-learningcatboost

Answer 1

负特征重要性值意味着特征使损失上升。这意味着您的模型没有很好地利用此功能。这可能意味着您的模型欠拟合（没有足够的迭代并且它没有足够地使用该功能）或者该功能不好，您可以尝试删除它以提高最终质量。