时间戳

首页 > 解决方案 > numpy.dot 对大型数组有精度限制吗？

python - numpy.dot 对大型数组有精度限制吗？

问题描述

numpy.dot 对于大型数组是否会出错？我正在使用配备 4 GHz Intel Core i7 和 32 GB 1600 MHz DDR3 的 iMac。我进行了一个简单的实验，使用 for 循环与矢量化比较从 1 到大数的平方和。当总和足够大时，向量化方法是错误的。请看下面的实验：

i = 3024617
sum([j**2 for j in range(1,i)]) - np.dot(np.arange(1,i,dtype=np.int64), np.arange(1,i, dtype=np.int64))

i = 3024618
sum([j**2 for j in range(1,i)]) - np.dot(np.arange(1,i,dtype=np.int64), np.arange(1,i, dtype=np.int64))

第一个差异——任何 i < 3024617 的差异为 0

第二个差异——任何 i >= 3024618 的差异是一个大整数

我希望所有整数 i 的差异都为 0。

标签： pythonnumpyvectorization

解决方案

Python 整数是无界的。 int64仅限于带符号的 64 位整数可以表示的内容：

>>> i = 3024617
>>> x = sum([j**2 for j in range(1,i)])
>>> x
9223371388520336796
>>> hex(x)
'0x7fffff690c418d9c'
>>> x.bit_length()
63

所以这个总和正好适合一个有符号的 64 位整数。也加入i**2，它不再这样做：

>>> x += i**2
>>> hex(x)
'0x800007bb0de78dad'
>>> x.bit_length()
64

不可能用有符号的 64 位整数忠实地表示该总和。

推荐阅读