为什么 excel 公式计算不正确?
Why is an excel formula calculating incorrectly?
我创建的工作表中有一个公式似乎计算不正确。该公式查找两个值之间的差异。该公式的计算结果应始终为零,因为它将输入的销售额数字与部门的总销售额进行比较。正如您从图像中看到的那样,当我介入并评估 'WORK SHEET'!H44(图像 1 和 2)的值时,数量计算正确,但是当我退回到原始公式时,它反而计算了值为 ####.239999999999 而不是 ####.24。是否有一个原因?我回去查了所有的个别数字,都是小数点后两位,其他用到的公式都是加减法
有什么我可能忽略的地方吗?我很抱歉对部分数据进行了编辑,但我的老板对在线泄露信息感到疑惑。
这不是 Microsoft 的错误,这是计算机行业如何进行浮点数学运算的问题。基本上,由于数字的小数部分是如何存储和处理的,因此 will 会出现很多很多 non-whole 值的错误。极小的错误,但仍然存在。
请参阅 https://docs.microsoft.com/en-us/office/toubleshoot/excel/floating-point-arithmetic-inaccurate-result 了解更多关于 Excel 的具体信息以及他们关于如何缓解它的建议,或者在互联网上搜索“浮点错误”以获取更多一般信息。
我创建的工作表中有一个公式似乎计算不正确。该公式查找两个值之间的差异。该公式的计算结果应始终为零,因为它将输入的销售额数字与部门的总销售额进行比较。正如您从图像中看到的那样,当我介入并评估 'WORK SHEET'!H44(图像 1 和 2)的值时,数量计算正确,但是当我退回到原始公式时,它反而计算了值为 ####.239999999999 而不是 ####.24。是否有一个原因?我回去查了所有的个别数字,都是小数点后两位,其他用到的公式都是加减法
有什么我可能忽略的地方吗?我很抱歉对部分数据进行了编辑,但我的老板对在线泄露信息感到疑惑。
这不是 Microsoft 的错误,这是计算机行业如何进行浮点数学运算的问题。基本上,由于数字的小数部分是如何存储和处理的,因此 will 会出现很多很多 non-whole 值的错误。极小的错误,但仍然存在。
请参阅 https://docs.microsoft.com/en-us/office/toubleshoot/excel/floating-point-arithmetic-inaccurate-result 了解更多关于 Excel 的具体信息以及他们关于如何缓解它的建议,或者在互联网上搜索“浮点错误”以获取更多一般信息。