matlab 浮点数精度 2^(-45)
matlab floating number accuracy 2^(-45)
我有两对数字(155.11 , 155.35)
和(154.95 , 155.19)
,它们的差都是0.24。在 matlab 中,如果我计算
(155.11 - 155.35) - (154.95 - 155.19)
,matlab会输出2.8422e-14
,也就是2^(-45)
。我知道这是浮点数表示的机器分辨率问题,但对细节很好奇,为什么是这个值? 45有什么特别之处?
eps(155.11)
是 2.8422e-14。您输入的原始数字已经四舍五入。
我有两对数字(155.11 , 155.35)
和(154.95 , 155.19)
,它们的差都是0.24。在 matlab 中,如果我计算
(155.11 - 155.35) - (154.95 - 155.19)
,matlab会输出2.8422e-14
,也就是2^(-45)
。我知道这是浮点数表示的机器分辨率问题,但对细节很好奇,为什么是这个值? 45有什么特别之处?
eps(155.11)
是 2.8422e-14。您输入的原始数字已经四舍五入。