首页 > 解决方案 > 如何通过 avx 对 int64 取模

问题描述

我想通过 avx 实现 5%3=2。

normal: int64 x = a % b

math: int64 x = a-((double)a/b)*b

avx:
__m256 tmp1 = _mm256_cvtepi32_ps(data);

我需要将一个大数从 int64 转换为浮点数,然后浮点数溢出。

将int64转换为float时如何解决溢出?

标签: c++moduloavxavx2int64

解决方案


推荐阅读