首页 > 解决方案 > 基于模型的优化(在 mlrMBO 中)需要多少次迭代?

问题描述

我想在 R (mlrMBO) 中的 mlr-Package 中使用基于模型的优化来调整我的超参数。这里推荐多少次迭代?我读过 MBO 中必要的迭代次数取决于超参数的数量,应该乘以某个因子?

标签: rperformancehyperparametersmlr

解决方案


不幸的是,对此没有一般的答案。除了超参数的数量之外,任务的难度和一般优化环境也会影响可能需要多少次迭代。此外,这取决于您正在寻找的性能级别——如果您绝对需要最佳性能,您可能需要大量迭代(数千次或更多)。

一个好的经验法则是根据可用资源确定迭代次数。您需要在几分钟内得到答案,还是可以让它在一夜之间运行?我将从只进行几次迭代的小型测试运行开始,以了解在您的特定情况下需要多长时间,然后根据此设置实际运行的迭代次数以及您希望花费多长时间。

使用不同的随机种子和相同的迭代次数以及相同的随机种子和不同的迭代次数进行多次运行也是一个好主意。这将告诉您通过运行更长的时间可以获得多少性能,例如,如果 100 次和 1000 次迭代没有区别,那么给它更多可能不值得。


推荐阅读