如何可靠地将浮点数格式化为Haxe中指定的小数位数

天花

我想知道是否有一种reliable方法可以将Float xhaxe转换为String具有指定小数位数(例如3)的a。

一个直接的方法是首先转换x为字符串表示,然后修剪一切小数点之后的给定数目的字符之后.,如图所示在这里但是,如果某个平台显示数字0.0111,会发生什么1.11e-2

我似乎也找不到“ printfhaxe”,这将允许我以正确的方式格式化数字。我想知道在haxe中执行此操作的最佳实践是什么。

我想在结果中获取字符串,因为在某些系统中,浮点数为您提供了例如0.19999.. from的信息2/10.0仅截断小数点后的某些字符将是不准确的。

public static function floatToStringPrecision(n:Float, prec:Int){
  n = Math.round(n * Math.pow(10, prec));
  var str = ''+n;
  var len = str.length;
  if(len <= prec){
    while(len < prec){
      str = '0'+str;
      len++;
    }
    return '0.'+str;
  }
  else{
    return str.substr(0, str.length-prec) + '.'+str.substr(str.length-prec);
  }
}

在某些平台上,舍入可能在大数(> MAX_INT)上失败,因此,在这种情况下,您需要自己的舍入函数。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

如何可靠地将浮点数格式设置为Haxe中指定的小数位数

来自分类Dev

JavaScript格式的浮点数小数位数

来自分类Dev

Python,f-string 将浮点值格式化为精确的小数位数

来自分类Dev

如何将小数位数转换为相同单位的浮点数?

来自分类Dev

确定浮点数中的小数位数

来自分类Dev

如何格式化浮点数,最多“n”个小数位而没有尾随零

来自分类Dev

如何计算浮点数和双精度数的小数位数?

来自分类Dev

printf传递给变量的精度为浮点数(小数位数)的浮点数

来自分类Dev

在打印浮点数时,如何更精确地打印小数位?

来自分类Dev

如何计算浮点数的小数位?

来自分类Dev

如何将浮点数格式化为指定有效的第一个有效小数

来自分类Dev

将浮点数格式化为小数(个、十、百...)

来自分类Dev

如何将for循环Javascript程序格式化为2个小数位?

来自分类Dev

浮点格式格式化为3或4个小数位

来自分类Dev

MariaDB默认浮点数不能包含小数位

来自分类Dev

转换浮点数并保持小数位

来自分类Dev

如何使用Go将浮点数格式化为字符串

来自分类Dev

如何在Python中使用强制符号将浮点数格式化为固定宽度

来自分类Dev

将列表从 str 转换为带有超过 2 个小数位的浮点数

来自分类Dev

将浮点数四舍五入到与乘数相同的小数位

来自分类Dev

我如何确定应使用多少小数位,用于c中的浮点数

来自分类Dev

如何使用sprintf输出小于1且没有前导小数位的浮点数?

来自分类Dev

我如何确定应使用多少小数位,用于c中的浮点数

来自分类Dev

如何使用phpMyAdmin在MySQL中指定小数精度和小数位数

来自分类Dev

如何在PHP中将小浮点数与未知的小数位数相乘而不会由于科学计数而得到零?

来自分类Dev

如何将双精度型格式化为字符串(只有两个小数位)?

来自分类Dev

C#如何很好地将浮点数格式化为String而没有不必要的十进制0?

来自分类Dev

格式化为2个小数位(NSDecimalNumber)

来自分类Dev

通过将小数位数作为参数在 Scala 中传递来格式化数字

Related 相关文章

  1. 1

    如何可靠地将浮点数格式设置为Haxe中指定的小数位数

  2. 2

    JavaScript格式的浮点数小数位数

  3. 3

    Python,f-string 将浮点值格式化为精确的小数位数

  4. 4

    如何将小数位数转换为相同单位的浮点数?

  5. 5

    确定浮点数中的小数位数

  6. 6

    如何格式化浮点数,最多“n”个小数位而没有尾随零

  7. 7

    如何计算浮点数和双精度数的小数位数?

  8. 8

    printf传递给变量的精度为浮点数(小数位数)的浮点数

  9. 9

    在打印浮点数时,如何更精确地打印小数位?

  10. 10

    如何计算浮点数的小数位?

  11. 11

    如何将浮点数格式化为指定有效的第一个有效小数

  12. 12

    将浮点数格式化为小数(个、十、百...)

  13. 13

    如何将for循环Javascript程序格式化为2个小数位?

  14. 14

    浮点格式格式化为3或4个小数位

  15. 15

    MariaDB默认浮点数不能包含小数位

  16. 16

    转换浮点数并保持小数位

  17. 17

    如何使用Go将浮点数格式化为字符串

  18. 18

    如何在Python中使用强制符号将浮点数格式化为固定宽度

  19. 19

    将列表从 str 转换为带有超过 2 个小数位的浮点数

  20. 20

    将浮点数四舍五入到与乘数相同的小数位

  21. 21

    我如何确定应使用多少小数位,用于c中的浮点数

  22. 22

    如何使用sprintf输出小于1且没有前导小数位的浮点数?

  23. 23

    我如何确定应使用多少小数位,用于c中的浮点数

  24. 24

    如何使用phpMyAdmin在MySQL中指定小数精度和小数位数

  25. 25

    如何在PHP中将小浮点数与未知的小数位数相乘而不会由于科学计数而得到零?

  26. 26

    如何将双精度型格式化为字符串(只有两个小数位)?

  27. 27

    C#如何很好地将浮点数格式化为String而没有不必要的十进制0?

  28. 28

    格式化为2个小数位(NSDecimalNumber)

  29. 29

    通过将小数位数作为参数在 Scala 中传递来格式化数字

热门标签

归档