为什么十进制运算的结果不正确?
Why the results of decimal operation is incorrect?
我想将 double 值用作小数点后两位。但我想我得到的值不正确。
1.965 = 必须是 1.97 但结果是 1.96
我累了他们:
DecimalFormat("0.00")
或 DecimalFormat("#.##")
或 NumberFormat.getInstance() / ..setMaximumFractionDigits(2)
但结果没有改变。
谢谢..
Log.e("Result:", String.format("%.2f", 1.965 )); // 1.96 < ?
Log.e("Result:", String.format("%.2f", 1.975 )); // 1.98
Log.e("Result:", String.format("%.2f", 1.955 )); // 1.96
Log.e("Result:", String.format("%.2f", 1.9650 )); // 1.96 < ?
Log.e("Result:", String.format("%.2f", 1.9651 )); // 1.97
Log.e("Result:", String.format("%.2f", 1.966 )); // 1.97
原因在于浮点数在内部的表示方式。它们的形式为(二进制尾数)* 2^(二进制指数)。通常,任何十进制数都不能完全表示为二进制形式,因此在计算该表示时已经进行了一些舍入。
简而言之,您的数字 1.965 很可能最终表示为比 1.965 小一点点的二进制浮点数,当您的程序将其四舍五入到小数点后两位时,您会得到这种意想不到的结果结果。
此处http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html全面概述了浮点运算的陷阱。
我想将 double 值用作小数点后两位。但我想我得到的值不正确。
1.965 = 必须是 1.97 但结果是 1.96
我累了他们:
DecimalFormat("0.00")
或 DecimalFormat("#.##")
或 NumberFormat.getInstance() / ..setMaximumFractionDigits(2)
但结果没有改变。
谢谢..
Log.e("Result:", String.format("%.2f", 1.965 )); // 1.96 < ?
Log.e("Result:", String.format("%.2f", 1.975 )); // 1.98
Log.e("Result:", String.format("%.2f", 1.955 )); // 1.96
Log.e("Result:", String.format("%.2f", 1.9650 )); // 1.96 < ?
Log.e("Result:", String.format("%.2f", 1.9651 )); // 1.97
Log.e("Result:", String.format("%.2f", 1.966 )); // 1.97
原因在于浮点数在内部的表示方式。它们的形式为(二进制尾数)* 2^(二进制指数)。通常,任何十进制数都不能完全表示为二进制形式,因此在计算该表示时已经进行了一些舍入。
简而言之,您的数字 1.965 很可能最终表示为比 1.965 小一点点的二进制浮点数,当您的程序将其四舍五入到小数点后两位时,您会得到这种意想不到的结果结果。
此处http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html全面概述了浮点运算的陷阱。