python - 批量归一化层和演化归一化激活层有什么用

Question

什么时候决定我们需要一个批处理层或演化层，我们如何决定它？我目前正在使用 PyTorch，我想了解如何决定添加哪一层？

标签： pythonpytorchtorchconv-neural-network

Answer 1

这里的一般答案是尝试所有这些并选择在验证中表现最好的一个。

至于本文中的 EvoNorm ，这取决于您的问题。作者用有限的模型集测试了分类问题的新层。对于图像合成结果不如分类好。

在我看来，batchnorm 是构建基线解决方案的一个很好的起点，因为它经过时间测试，然后尝试更高级的东西。