首页 > 解决方案 > 指定要在 optuna (lightgbm) 中搜索的固定参数和参数

问题描述

我刚刚找到了 Optuna,似乎它们与 lightGBM 集成在一起,但我很难看到我可以在哪里修复参数,例如scoring="auc"在哪里可以定义一个网格空间来搜索,例如num_leaves=[1,2,5,10].

https://github.com/optuna/optuna/blob/master/examples/lightgbm_tuner_simple.py为例,他们只是定义了一个params带有一些固定参数的字典(所有参数都没有在该字典中指定吗?),以及文档指出

它以逐步的方式调整重要的超参数(例如 min_child_samples 和 feature_fraction)

如何控制调整哪些参数以及在哪些空间中调整,以及如何修复一些参数?

标签: python-3.xlightgbmoptuna

解决方案


我对 LightGBM 一无所知,但由于这是在 optuna 中修复参数的第一个结果,我将回答这部分问题:

在 optuna 中,搜索空间是在目标函数的代码中定义的。此函数应将“试验”对象作为输入,您可以通过在该试验对象上调用 等函数suggest_float()来创建参数。suggest_int()有关更多信息,请参阅10_key_features/002_configurations.html中的文档

通常,固定参数是通过硬编码而不是调用suggest函数来完成的,但可以使用 PartialFixedSampler在外部固定特定参数


推荐阅读