machine-learning - 贝叶斯优化，返回不同指标的组合作为评估

问题描述

我正在使用贝叶斯优化和高斯过程来优化我的循环网络参数。

我得到了很好的结果。我将最后一个时期的验证损失作为优化算法的反馈返回。

我真的很想在每次迭代的反馈中包含一些其他参数，例如训练持续时间和模型参数的数量，因为我想找到一个性能良好的小模型，而不会将参数的值更改为更小的范围. 问题是我不知道损失的规模。如果只是在 0 和 1 之间缩放其他参数，那么如果它始终在 0.02-0.01 范围内，则损失的影响可能会更小。在这种情况下，将选择最小的模型，但它的性能会很差。

谢谢你的想法。干杯!

标签： machine-learningbayesianlosshyperparameters

machine-learning - 贝叶斯优化，返回不同指标的组合作为评估

问题描述

解决方案

推荐阅读