javascript 自身在浮点计算上存在缺陷
40*0.1 + 37*0.9 = 37.300000000000004
修正方式
40/10 + 37*9/10 = 37.3
其实就是将浮点数转换成多次整数计算,整数计算本身没有问题。
TCrow 2013-06-28 09:55 原文
javascript 自身在浮点计算上存在缺陷
40*0.1 + 37*0.9 = 37.300000000000004
修正方式
40/10 + 37*9/10 = 37.3
其实就是将浮点数转换成多次整数计算,整数计算本身没有问题。