时间戳

首页 > 解决方案 > 关于使用 scikit-learn GridSearchCV 调优超参数的问题

python - 关于使用 scikit-learn GridSearchCV 调优超参数的问题

问题描述

在同一数据集上进行测试时，对超参数执行网格搜索能否保证性能提高？

我问是因为我的直觉是“是”，但是在调整正则化常数后我的分数略低：

classifier_os = LinearModel.LogisticRegression()

p_grid = {
    'C': np.logspace(-3, 3, 7)
}

clf = model_selection.GridSearchCV(classifier_os, p_grid, scoring='accuracy')
clf.fit(x_train, y_train)
y_pred = clf.predict(x_test)
metrics.classification_report(y_pred, y_test, output_dict=True)

给我以下分数：

accuracy :  0.8218181818181818
 macro avg: 
     precision :  0.8210875331564986
     recall :  0.8213603058298822
     f1-score :  0.8212129655428624
     support :  275

与调优前相比：

accuracy :  0.8290909090909091
 macro avg: 
     precision :  0.8287798408488063
     recall :  0.8285358354537744
     f1-score :  0.8286468069310212

调整改变的唯一一件事是使正则化常数 10 而不是默认的 1

标签： pythonscikit-learndata-science

解决方案

如果未指定，默认情况下 GridSearhCV 执行 5 倍 CV 并返回评分。有时，作为平均值返回的准确度可能不是一个很好的选择，因此 F1 是一个不错的选择。要添加，该函数还输出best_params, best_score。您将使用在最终模型中获得的 best_params 来测试它在调整后的效果。

参考：
网格搜索 Sklearn

推荐阅读