首页 > 解决方案 > Pytorch 和 ONNX 导出中的按位移位运算符

问题描述

我有一个来自框架的量化网络,我想将其导出为 ONNX 文件。量化需要添加执行按位右移的中间层以避免溢出。我必须在网络的其他一些层之间插入这些层。

我想我可以使用 Pytorch 的Bitshift 运算符并以某种方式创建附加层。我的第一个问题是:这样的层已经存在还是我必须从头开始创建它们?例如,我可以使用带有对角权重矩阵的线性层,并告诉框架不要更改权重吗?

然后,对于 ONNX 导出,我相信此类层尚不支持。有没有一种简单的方法来进行导出?

谢谢你的帮助。

标签: pytorchbit-shiftquantization

解决方案


推荐阅读