动作编号加和减奇怪的行为

本杰明·布菲尔

好吧,我只是遇到了一个简单的以下代码问题:

trace( 0.01+0.05 );  // 0.060000000000000005
trace( 0.03-0.01 );  // 0.019999999999999997

我的意思是我只希望0.01 + 0.05给我0.06,而0.03-0.01给我0.02。有人知道如何检索正确的结果吗?

拔示巴

不精确性是由于浮点算法。0.01、0.05和0.03都是浮点文字并非每个数字(实际上很少的数字)都可以用浮点数精确表示。

例如,可以为0.5,但不能为0.06。根据经验,前15个有效数字是正确的。

有关更多详细信息,请参见http://en.wikipedia.org/wiki/Floating_point

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

动作编号加和减奇怪的行为

来自分类Dev

加,减和乘所需的Mathcontext吗?

来自分类Dev

PostgreSQL加/减和聚合函数的顺序

来自分类Dev

Javascript数组。加,减和总计

来自分类Dev

||奇怪的Ruby行为 和 &&

来自分类Dev

加入和的奇怪行为

来自分类Dev

OpenXml 和奇怪的行为

来自分类Dev

MVVM light Messenger中带有动作,局部变量和垃圾收集的奇怪行为

来自分类Dev

使用加,减和减半计算三角根

来自分类Dev

如何使用按钮进行加,乘和减

来自分类Dev

DateTime和DateTimeZone的奇怪行为

来自分类Dev

Camera和SurfaceView的奇怪行为

来自分类Dev

时区和SimpleDateFormat奇怪的行为

来自分类Dev

$ .clone()和$ .data()奇怪的行为

来自分类Dev

查找和du的奇怪行为

来自分类Dev

systimestamp和sysdate的奇怪行为

来自分类Dev

Camera和SurfaceView的奇怪行为

来自分类Dev

$ .clone()和$ .data()奇怪的行为

来自分类Dev

strpos和Ø的奇怪行为

来自分类Dev

奇怪的printf和scanf行为

来自分类Dev

gluPerspective和gluLookAt的奇怪行为

来自分类Dev

ASLR 和 VirtualAlloc 的奇怪行为

来自分类Dev

TextView 和 ListView 的奇怪行为

来自分类Dev

从中间件分派动作会导致奇怪的行为

来自分类Dev

加,减,除,乘小数

来自分类Dev

特征行加/减性能

来自分类Dev

momentjs-奇怪的行为与startOf和endOf

来自分类Dev

Python:和/或运算符奇怪的行为

来自分类Dev

C ++ float和int除法奇怪的行为