Go中有关浮点精度的问题使我想知道C如何处理该问题。
在C中使用以下代码：
float a = 0.1;
将a具有最接近的IEEE 754二进制表示形式：
00111101110011001100110011001101 (Decimal: 0.10000000149011612)
还是将其裁剪为：
00111101110011001100110011001100 (Decimal: 0.09999999403953552)
还是根据编译器/平台的不同而不同？
一个实现可以执行以下任一操作（甚至可以再执行一次）：
对于十进制浮点常量，以及对于FLT_RADIX不是2的幂的十六进制浮点常量，结果要么是最接近的可表示值，要么是在实现定义中选择的，紧邻最接近的可表示值的较大或较小的可表示值。方式。
（C11，第6.4.4.2/3节）
从C99开始，我们有了十六进制浮点常量，因此您可以精确地指定所需的位（假设实现提供二进制浮点:)，因此可以这样说：
float a = 0x1.99999Ap-4;
对于IEEE 754 32位浮点数：
#include <stdio.h>
int main() {
float a = 0.1;
float low = 0x0.1999999p0;
float best = 0x0.199999ap0;
float high = 0x0.199999bp0;
printf("a is %.6a or %.16f, which is either %.16f, %.16f or %.16f\n",
a, a, low, best, high);
return 0;
}
本文收集自互联网，转载请注明来源。
如有侵权，请联系[email protected] 删除。
我来说两句