tensorflow - PyTorch 是否有用于批处理规范的后向矩参数？

Question

我只需要确认我没有让自己感到困惑。我习惯于动量（在指数移动平均线中）指的是时间序列中历史值的权重。更高的动量意味着更多的权重放在已经发生的事情上，而不是现在正在发生的事情上。用数学语言来说，如果我们有一个时间序列 S，并且我们想要产生一个指数移动平均序列 V，其动量为 \beta

这就是Keras的定义。

但是 PyTorch 似乎以相反的方式定义它，如这里的注释所示。因此，在 Pytorch 变体中，更高的“动量”与我们直观地认为的相反。1 的动量只会在 V 中重现 S。对吗？

标签： tensorflowkeraspytorch