是
a < b and not(a - b < 0)
可能由于浮点数舍入而导致浮点数错误?有例子吗?
它取决于浮点格式,尤其取决于它是否具有逐渐下溢的趋势。IEEE 754二进制浮点可以。这意味着即使在极端情况下只能用一个有效位来表示两个不同的浮点数之间的间隙始终不为零。
两个不同的浮点数之间最小的绝对差值都带有等号(或数字之一),零指数和有效数相差1。在这种情况下,将较小的值减去较大的值将得到最小的负数,具有负号,零指数和有效数1。该数字比较小于零。
还有其他计算会下溢为零。例如,在正常的舍入模式下,将最小的正数除以大于或等于2的数字将得出零。
本文收集自互联网,转载请注明来源。
如有侵权,请联系[email protected] 删除。
我来说两句