deep-learning - PyTorch：了解 Adam 的实现

Question

我查阅了 PyTorch 的 Adam 源代码，并意识到核心部分是以下代码：

 F.adam(params_with_grad,
               grads,
               exp_avgs,
               exp_avg_sqs,
               max_exp_avg_sqs,
               state_steps,
               amsgrad=group['amsgrad'],
               beta1=beta1,
               beta2=beta2,
               lr=group['lr'],
               weight_decay=group['weight_decay'],
               eps=group['eps'])

现在，我想看看F.adam()是如何实现的，但我不太清楚在哪里可以找到F. 一开始，它说：from . import _functional as F，我也不太清楚这是指什么。

帮助将不胜感激。

标签： deep-learningpytorchimplementationsgd