machine-learning - Keras 手动量化

Question

我最近从一位同事那里继承了一个基于 keras 的网络，我想将它量化到 8 位定点。

不幸的是，我对 keras 本身并不太熟悉。

我一直在环顾四周，似乎没有任何简单的方法可以做到这一点，而无需转换为 tf.lite 之类的东西，即使这样似乎也有问题。（如果我在这里遗漏任何好的解决方案，请纠正我）。

所以我想知道我是否可以手动完成。我理解这个公式，并且认为我在实施时不会遇到任何大麻烦，但我不确定 keras 如何处理引擎盖下的重量。如果我只是手动将权重从 32 位映射到 8 位，那么 keras 会不会很好，或者它会做一些烦人的事情，比如只是附加 0 以使其成为内部预期的权重长度。

对此的任何帮助或指示将不胜感激。

标签： machine-learningkeras

Answer 1

也许您可以使用带有量化标志的encoder.py转换器脚本：-q

https://transcranial.github.io/keras-js-docs/conversion/#quantization