首页 > 解决方案 > 在某些情况下,将 Long 乘以浮点数会导致错误

问题描述

请参阅下面的简单代码:

public static void main(String[] args) {
    Long value = 91000L;
    System.out.println(value * 0.1);
    System.out.println(value * 0.2);
    System.out.println(value * 0.3);
    System.out.println(value * 0.4);
    System.out.println(value * 0.5);
    System.out.println(value * 0.6);
    System.out.println(value * 0.7);
    System.out.println(value * 0.8);
    System.out.println(value * 0.9);
}

结果是这样的:

9100.0
18200.0
27300.0
36400.0
45500.0
54600.0
63699.99999999999 //incorrect!
72800.0
81900.0

标签: javacastingfloating-point

解决方案


这是一个正确的结果,因为使用 double 并不像使用整数类型那样精确。

这就是为什么如果你比较两个double数字,你必须这样做。像这样:

public static boolean isEqual(double one, double two) {
    return one >= two - 1E6 && one <= two + 1E6;
}

PS 4.2.3。浮点类型、格式和值

如果要打印正确的值,则必须使用BigDecimal

BigDecimal val = BigDecimal.valueOf(91000);
BigDecimal res = val.multiply(BigDecimal.valueOf(0.7));
System.out.println(res); // 63000.0

在某些情况下,您可以提高精度:

long value = 91000L;
System.out.println(value * 0.7);    // 63699.99999999999
System.out.println((value * 7) / 10);   // 63700

推荐阅读