如何计算浮点数和双精度数的小数位数?

AnonPJ

我对编程非常陌生,在大学里,我们了解了不同类型的数字(整数,短整数,浮点数,双精度数)。浮点数和双精度数是浮点数。通常,它们由正负号,尾数和指数组成。每个部分占用一定数量的位。浮点数最多可以显示7个小数位,而最多可以显示16个小数。其公式为:

23·log10(2)= 23·(log(2)/ log(10))≈23·0.3≈7(浮点数的小数位)

52·0.3≈16(双精度小数位)

我知道23和52是尾数的位。但是对数从何而来?这如何计算小数位数?

帕特里夏(Patricia Shanahan)

23位可以代表2 23个值。N个十进制数字可以代表10个N值。

可以表示与23位相同的一组值的小数位数的计算减少了求解方程式中的N的次数:

2 23 = 10

log(2 23)= log(10 N

23 * log(2)= N * log(10)

N = 23 *(对数(2)/对数(10))

当然,您不能使用小数位或十进制数字,因此您必须根据结果的使用方式向上或向下取整。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

基本浮点数和双精度支持多少个小数位?

来自分类Dev

printf传递给变量的精度为浮点数(小数位数)的浮点数

来自分类Dev

如何计算浮点数的小数位?

来自分类Dev

确定浮点数中的小数位数

来自分类Dev

JavaScript格式的浮点数小数位数

来自分类Dev

如何设置固定位数的有效双精度数,而不考虑小数位?

来自分类Dev

如何将小数位数转换为相同单位的浮点数?

来自分类Dev

Java:如何计算表示货币的双精度值中所包含的小数位数?

来自分类Dev

小数精度和小数位数

来自分类Dev

如何可靠地将浮点数格式设置为Haxe中指定的小数位数

来自分类Dev

如何可靠地将浮点数格式化为Haxe中指定的小数位数

来自分类Dev

比较C#中小数位数不同的两个双精度数

来自分类Dev

浮点数或双精度数的NaN和Infinity如何存储在内存中?

来自分类Dev

在Java中定义双精度数的小数位

来自分类Dev

您如何高精度比较从 Cpp 端发送到 QML 函数的浮点数和双精度数?

来自分类Dev

MariaDB默认浮点数不能包含小数位

来自分类Dev

转换浮点数并保持小数位

来自分类Dev

蜂房数据类型:双精度和小数位数

来自分类Dev

我如何确定应使用多少小数位,用于c中的浮点数

来自分类Dev

如何使用sprintf输出小于1且没有前导小数位的浮点数?

来自分类Dev

在打印浮点数时,如何更精确地打印小数位?

来自分类Dev

我如何确定应使用多少小数位,用于c中的浮点数

来自分类Dev

Java的好奇心:使用浮点数或双精度数来计算类中的成本

来自分类Dev

浮点数和双精度?

来自分类Dev

如何在PHP中将小浮点数与未知的小数位数相乘而不会由于科学计数而得到零?

来自分类Dev

浮点数组到双精度数组

来自分类Dev

为什么32.32是双精度数而不是浮点数?

来自分类Dev

为什么比较浮点数和双精度数时此输出

来自分类Dev

C字符串和(整数,双精度数,浮点数)之间的动态分配

Related 相关文章

  1. 1

    基本浮点数和双精度支持多少个小数位?

  2. 2

    printf传递给变量的精度为浮点数(小数位数)的浮点数

  3. 3

    如何计算浮点数的小数位?

  4. 4

    确定浮点数中的小数位数

  5. 5

    JavaScript格式的浮点数小数位数

  6. 6

    如何设置固定位数的有效双精度数,而不考虑小数位?

  7. 7

    如何将小数位数转换为相同单位的浮点数?

  8. 8

    Java:如何计算表示货币的双精度值中所包含的小数位数?

  9. 9

    小数精度和小数位数

  10. 10

    如何可靠地将浮点数格式设置为Haxe中指定的小数位数

  11. 11

    如何可靠地将浮点数格式化为Haxe中指定的小数位数

  12. 12

    比较C#中小数位数不同的两个双精度数

  13. 13

    浮点数或双精度数的NaN和Infinity如何存储在内存中?

  14. 14

    在Java中定义双精度数的小数位

  15. 15

    您如何高精度比较从 Cpp 端发送到 QML 函数的浮点数和双精度数?

  16. 16

    MariaDB默认浮点数不能包含小数位

  17. 17

    转换浮点数并保持小数位

  18. 18

    蜂房数据类型:双精度和小数位数

  19. 19

    我如何确定应使用多少小数位,用于c中的浮点数

  20. 20

    如何使用sprintf输出小于1且没有前导小数位的浮点数?

  21. 21

    在打印浮点数时,如何更精确地打印小数位?

  22. 22

    我如何确定应使用多少小数位,用于c中的浮点数

  23. 23

    Java的好奇心:使用浮点数或双精度数来计算类中的成本

  24. 24

    浮点数和双精度?

  25. 25

    如何在PHP中将小浮点数与未知的小数位数相乘而不会由于科学计数而得到零?

  26. 26

    浮点数组到双精度数组

  27. 27

    为什么32.32是双精度数而不是浮点数?

  28. 28

    为什么比较浮点数和双精度数时此输出

  29. 29

    C字符串和(整数,双精度数,浮点数)之间的动态分配

热门标签

归档