首页 > 解决方案 > CNN 激活层的量化(训练后)

问题描述

我想知道神经网络中激活层的量化是如何工作的。我知道我们需要一个有代表性的数据集来观察常见的输出(使用 float32 输入)。但是然后量化什么/哪些参数?显然,用量化的 int8 值提供激活(例如 sigmoid)是行不通的,因为 sigmoid 函数的最小、最大范围。很高兴得到任何澄清。提前谢谢。

标签: quantization

解决方案


推荐阅读