首页 > 技术文章 > python计算出现错误

dayang12525 2019-06-10 17:39 原文

用python计算39.8-0.1得出的结果是39.699999999999996

其他数字计算正确,唯独这个计算错误。

原因:

 中文解释: https://docs.python.org/zh-cn/3/tutorial/floatingpoint.html

 英文解释: https://docs.python.org/3/faq/design.html#why-are-floating-point-calculations-so-inaccurate

因为 Python 中使用双精度浮点数来存储小数。在 Python 使用的 IEEE 754 标准(52M/11E/1S)中,8字节64位存储空间分配了52位来存储浮点数的有效数字,11位存储指数,1位存储正负号,即这是一种二进制版的科学计数法格式。虽然52位有效数字看起来很多,但麻烦之处在于,二进制小数在表示有理数时极易遇到无限循环的问题。其中很多在十进制小数中是有限的,比如十进制的 1/10,在十进制中可以简单写为 0.1 ,但在二进制中,他得写成:0.0001100110011001100110011001100110011001100110011001…..(后面全是 1001 循环)。因为浮点数只有52位有效数字,从第53位开始,就舍入了。这样就造成了标题里提到的”浮点数精度损失“问题。 舍入(round)的规则为“0 舍 1 入”,所以有时候会稍大一点有时候会稍小一点。

 

推荐阅读