首页 > 解决方案 > 为什么每当我刷新我的随机森林回归器时。MSE 和 MAE 变化?为什么它会有所不同并取决于什么?

问题描述

我正在使用 jupyter notebook,所以我可以尽可能频繁地刷新块以适应/预测/评估。每次我刷新时,MSE/MAE/RMSE 都会返回一个不同的值,即使训练数据没有被打乱。为什么呢?

我已经尝试查找问题,但这似乎没有帮助,所以我想知道是因为我的代码还是我缺乏理解

我经常刷新这个块

rf1 = SklearnExtra(clf = RandomForestRegressor(), seed = Seed, params = tune)
rf1.fit(x_train, y_train)
evaluate(rf1, x_test, y_test)
print('Test MAPE '+ str(mean_absolute_percentage_error(rf1, y_test, x_test)))
def evaluate(model, test_features, test_labels):
    predictions = model.predict(test_features)
    errors = metrics.mean_absolute_error(test_labels, predictions)
    MSerrors = metrics.mean_squared_error(test_labels, predictions)
    RMSE = np.sqrt(metrics.mean_squared_error(test_labels, predictions))
    RMSLE = np.sqrt(np.mean(np.power(np.log1p(predictions) - np.log1p(test_labels), 2)))
    print('Model Perfomance')
    print('MAE Error: {:0.4f} degrees. '.format(errors))
    print('Average MSE Error: {:0.4f} degrees. '.format(MSerrors))
    print('Average RMS Error: {:0.4f} degrees. '.format(RMSE))
    print('Average RMSLE Error: {:0.4f} degrees. '.format(RMSLE))
    return 'end of test'
class SklearnExtra(object):
    def __init__(self, clf, seed = 0, params = None):
        params['random_state'] = seed
        self.clf = clf

    def train(self, x, y):
        self.clf.fit(x, y)

    def predict(self, x):
        return self.clf.predict(x)

    def fit(self, x, y):
        return self.clf.fit(x,y)

    def feature_importances(self, x, y):
        clf2 = self.clf.fit(x,y)
        return (clf2.feature_importances_)

    def name(self):
        return str(self.clf)
Test Data
Model Perfomance
MAE Error: 26.3329 degrees. 
Average MSE Error: 1950.4288 degrees. 
Average RMS Error: 44.1637 degrees. 
Average RMSLE Error: 0.3016 degrees. 
Test MAPE 24.11994617834992

#next refresh
Test Data
Model Perfomance
MAE Error: 29.7638 degrees. 
Average MSE Error: 2479.5202 degrees. 
Average RMS Error: 49.7948 degrees. 
Average RMSLE Error: 0.3129 degrees. 
Test MAPE 25.520876708239378

标签: pythonmachine-learningoutputrandom-forest

解决方案


每棵树都建立在数据的随机部分(引导程序)和/或所有特征的子样本上,因此模型每次都不同。这是一个随机森林;-)

您可以使用 关闭引导采样RandomForestRegressor(bootstrap=False),但每次从特征采样中得到的结果仍会略有不同。

但是randon_state,如果您希望每次都获得相同的结果,您可以将参数设置为固定值,例如RandomForestRegressor(random_state=42). :-)

是 Sycorax 在 CrossValidated 上的一个很好的解释。


推荐阅读