python - PyTorch - 如何在训练期间获得学习率？

Question

在训练时，我想知道 learning_rate 的价值。我该怎么办？

这是我的代码，如下所示：

my_optimizer = torch.optim.SGD(my_model.parameters(), 
                               lr=0.001, 
                               momentum=0.99, 
                               weight_decay=2e-3)

谢谢你。

标签： pythonmachine-learningdeep-learningpytorch

Answer 1

对于您给出的示例中只有一个参数组，您可以使用此函数并在训练期间调用它以获取当前学习率：

def get_lr(optimizer):
    for param_group in optimizer.param_groups:
        return param_group['lr']