tensorflow - 如何在使用 tensorflow 版本 1 时在激活前后应用批量标准化
问题描述
实际上,我在我的网络中使用了 batchnorm,例如:
conv_layer = tf.layers.conv2d(inputs=x, filters=16, kernel_size=[3, 3], padding="same", activation='relu')
pooling_layer = tf.layers.average_pooling2d(inputs=conv_layer , pool_size=[2, 2], strides=1)
batchnorm = tf.layers.batch_normalization(pooling_layer)
但我不知道它是否适用于激活之前或之后。我似乎在追求,但我不确定。
在网站上:https ://www.tensorflow.org/api_docs/python/tf/compat/v1/layers/batch_normalization 他们声明他们的参考文献是 Ioffe et al., 2015,在激活之前适用。但是,我想对它们进行试验并比较它们的结果。不幸的是,我在使用 tensorflow 1 时没有找到如何做到这一点。
任何人都可以帮助我吗?
解决方案
推荐阅读
- python - numpy.recfromcsv CSV 文件的转置输出
- python - 如何使用 less 作为函数并合并绘图?
- c++ - 可序列化对象与谷物
- nginx - 将 https://www.subdomain.example.com 重定向到 https://subdomain.example.com(删除 www)
- c# - 如何发布这个依赖 Nuget 的 C# 源代码生成器?
- node.js - 运行“npm run start-dev”时 Hyper 出错(尝试在没有解决方案代码的情况下打开项目)
- html - CSS DIV 和 span 优先级
- bnf - Purescript 是否有可用的 BNF 类型语法?
- api - 从 Google Api 中删除“$”
- flutter-web - 如何在每个页面上都有一个导航栏 Flutter Web