时间戳

首页 > 解决方案 > 为什么我的精确召回和 ROC 曲线不平滑？

python - 为什么我的精确召回和 ROC 曲线不平滑？

问题描述

我有一些标记为 0 或 1 的数据，我正在尝试使用随机森林来预测这些类。每个实例都标有 20 个用于训练随机森林的特征（约 30.000 个训练实例和约 6000 个测试实例。

我正在使用以下代码绘制精确召回和 ROC 曲线：

precision, recall, _ = precision_recall_curve(y_test, y_pred)
plt.step(recall, precision, color='b', alpha=0.2,where='post')
plt.fill_between(recall, precision, step='post', alpha=0.2, color='b')

fpr, tpr, _ = roc_curve(y_test, y_pred)
roc_auc = auc(fpr, tpr)
plt.plot(fpr, tpr, color='darkorange', lw=2, label='ROC curve (area = %0.2f)' % roc_auc)
plt.plot([0, 1], [0, 1], color='navy', lw=2, linestyle='--')

到目前为止，我看到的所有 PR 和 ROC 曲线总是在精度/召回率方面出现锯齿状/平滑下降，而 ROC 线则出现平滑/锯齿状增加。但由于某种原因，我的 PR 和 ROC 曲线总是如下所示：

PR曲线 ROC曲线 出于某种原因，只有一个点可以改变方向。这是由于我的编码错误还是数据/分类问题固有的原因？如果是这样，如何解释这种行为？

标签： pythonmachine-learningscikit-learnclassificationrandom-forest

解决方案

我怀疑您使用了 RandomForestClassifier.predict() 方法，该方法根据预测的类导致 0 或 1。

要获得概率，即为特定类投票的树的比例，您必须使用 RandomForestClassifier.predict_proba() 方法。

使用这些概率作为曲线计算的输入应该可以解决问题。

编辑：scikit-learn 的曲线创建方法首先根据预测分数对预测进行排序，然后根据它们的真实/观察值对预测进行排序，因此曲线具有这些“弯曲”。

推荐阅读