可能带有浮点数的``a <b而不是(a-b <0)''

SlimJim

a < b and not(a - b < 0)

可能由于浮点数舍入而导致浮点数错误?有例子吗?

帕特里夏(Patricia Shanahan)

它取决于浮点格式,尤其取决于它是否具有逐渐下溢的趋势IEEE 754二进制浮点可以。这意味着即使在极端情况下只能用一个有效位来表示两个不同的浮点数之间的间隙始终不为零。

两个不同的浮点数之间最小的绝对差值都带有等号(或数字之一),零指数和有效数相差1。在这种情况下,将较小的值减去较大的值将得到最小的负数,具有负号,零指数和有效数1。该数字比较小于零。

还有其他计算会下溢为零。例如,在正常的舍入模式下,将最小的正数除以大于或等于2的数字将得出零。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

“ A不是B”与“ A是(不是B)”

来自分类Dev

“ A不是B”与“ A是(不是B)”

来自分类Dev

什么是等价的 0* |a* |b* |(a|b)*

来自分类Dev

2列,A和B,Col A是T / F,Col B是非负浮点数,我想知道A = T和B = 0的第一个单元格(或行)

来自分类Dev

a / b,但如果b == 0,则返回0

来自分类Dev

(* b)[0]与* b [0]-数组和指针

来自分类Dev

a / b,但如果b == 0,则返回0

来自分类Dev

“ B(int b = 0):b(b){}”是什么意思?

来自分类Dev

c++ 中的“int a, b =0”和“int a =0; int b = 0”有什么区别?

来自分类Dev

可以优化b && 0

来自分类Dev

带有浮点数(纬度、经度)的字符串不能转换为浮点数 - 这显示为 0

来自分类Dev

在Coq中a + b = 0-> a = 0和b = 0

来自分类Dev

如果C中a%b == 0,floor(a /(double)b)* b == a?

来自分类Dev

如果C中a%b == 0,floor(a /(double)b)* b == a?

来自分类Dev

收到消息 School:0x00559eba30b8b8 而不是显示学校名称

来自分类Dev

如何`grep()`只有数字和浮点数以及带有数字/浮点数的符号而不是带有数字的字符

来自分类Dev

位置0的意外字符(B)

来自分类Dev

如何确定两个任意a和b之间的唯一浮点数的数量?

来自分类Dev

为什么'sort {$ a- $ b}(浮点数列表)'在Perl中不起作用?

来自分类Dev

super.a = b而不是super(b)

来自分类Dev

为什么新功能“二进制文字”以0b开头而不是后缀?

来自分类Dev

为什么将“ a +++ b”解释为“(a ++)+ b”而不是“ a +(++ b)”?

来自分类Dev

浮点数返回0

来自分类Dev

在python中[[[a,a,a]','[b,b,b]']和[[a,a,a],[b,b,b]]有什么区别?

来自分类Dev

MATLAB逻辑索引:a(find(b <1))= 0是否等于a(b(b <1))= 0?

来自分类Dev

如果列 E 或 F 为空或带有值 0,则复制列 B

来自分类Dev

a-plus-abs-b:无效的函数:(如果(> b 0)+-)

来自分类Dev

Xpath-如果B为0,则选择A,否则选择B

来自分类Dev

SQL:选择A而不是B的集合

Related 相关文章

  1. 1

    “ A不是B”与“ A是(不是B)”

  2. 2

    “ A不是B”与“ A是(不是B)”

  3. 3

    什么是等价的 0* |a* |b* |(a|b)*

  4. 4

    2列,A和B,Col A是T / F,Col B是非负浮点数,我想知道A = T和B = 0的第一个单元格(或行)

  5. 5

    a / b,但如果b == 0,则返回0

  6. 6

    (* b)[0]与* b [0]-数组和指针

  7. 7

    a / b,但如果b == 0,则返回0

  8. 8

    “ B(int b = 0):b(b){}”是什么意思?

  9. 9

    c++ 中的“int a, b =0”和“int a =0; int b = 0”有什么区别?

  10. 10

    可以优化b && 0

  11. 11

    带有浮点数(纬度、经度)的字符串不能转换为浮点数 - 这显示为 0

  12. 12

    在Coq中a + b = 0-> a = 0和b = 0

  13. 13

    如果C中a%b == 0,floor(a /(double)b)* b == a?

  14. 14

    如果C中a%b == 0,floor(a /(double)b)* b == a?

  15. 15

    收到消息 School:0x00559eba30b8b8 而不是显示学校名称

  16. 16

    如何`grep()`只有数字和浮点数以及带有数字/浮点数的符号而不是带有数字的字符

  17. 17

    位置0的意外字符(B)

  18. 18

    如何确定两个任意a和b之间的唯一浮点数的数量?

  19. 19

    为什么'sort {$ a- $ b}(浮点数列表)'在Perl中不起作用?

  20. 20

    super.a = b而不是super(b)

  21. 21

    为什么新功能“二进制文字”以0b开头而不是后缀?

  22. 22

    为什么将“ a +++ b”解释为“(a ++)+ b”而不是“ a +(++ b)”?

  23. 23

    浮点数返回0

  24. 24

    在python中[[[a,a,a]','[b,b,b]']和[[a,a,a],[b,b,b]]有什么区别?

  25. 25

    MATLAB逻辑索引:a(find(b <1))= 0是否等于a(b(b <1))= 0?

  26. 26

    如果列 E 或 F 为空或带有值 0,则复制列 B

  27. 27

    a-plus-abs-b:无效的函数:(如果(> b 0)+-)

  28. 28

    Xpath-如果B为0,则选择A,否则选择B

  29. 29

    SQL:选择A而不是B的集合

热门标签

归档