首页 > 解决方案 > Python浮点精度和

问题描述

我在python中有以下数组

n = [565387674.45, 321772103.48,321772103.48, 214514735.66,214514735.65, 357524559.41]

如果我总结所有这些元素,我会得到:

sum(n)
1995485912.1300004

但是,这个总和应该是:

1995485912.13

通过这种方式,我知道了浮点“错误”。我已经使用了isclose()numpy 的函数来检查更正的值,但是 这个限制是多少?有什么办法可以减少这种“错误”?

这里的主要问题是错误传播到其他操作,例如,以下断言必须为真:

assert (sum(n) - 1995485911) ** 100 - (1995485912.13 - 1995485911) ** 100 == 0.

标签: python-3.xfloating-pointprecision

解决方案


这是浮点数的问题。一种解决方案是以字符串形式表示并使用decimal模块:

n = ['565387674.45', '321772103.48', '321772103.48', '214514735.66', '214514735.65',
     '357524559.41']

from decimal import Decimal

s = sum(Decimal(i) for i in n)

print(s)

印刷:

1995485912.13


推荐阅读