我正在尝试使用c ++。我编写了一个简单的函数，该函数使用非常大的数字来查找三角形的面积。
我将两个大数传递给函数，并从一个单独的函数getValue（）返回一个来自不同方程式的单独值。我很好奇为什么将1放在括号外的行上，如下所示：
return (long long)(a - b / 2.0) + b + 1;
我得到值9007200509008001
当我将1放在括号内时，如下所示：
return (long long)(a - b / 2.0 + 1) + b;
我得到9007200509008000
即使计算得出相等的答案，第二个值也要比第一个小一个。
#include <iostream>
double triangleArea(int b, int h)
{
long long bh = (long long)b * h;
return 0.5 * bh;
}
long long getValue()
{
int deltaY = 18014400;
int deltaX = 1000000000;
long b = deltaY + deltaX + 1600;
double a = triangleArea(deltaX, deltaY);
return (long long)(a - b / 2.0) + b + 1;
}
int main(int argc, char **argv)
{
std::cout << getValue() << std::endl;
}
我敢肯定，答案对某些人来说可能是显而易见的，但是我无法解决这个问题。有人可以解释吗？
当您除以时，2.0您将隐式转换为double。双重精度限制为大约15个十进制数字。因此，第16位数字发生了什么是完全确定的，但可能并非您所期望的。
如果需要准确性，请尝试使用long long或unsigned long long仔细控制您没有溢出。如果这还不够，那么您将不得不使用多精度算术（例如GMP）。因为一旦使用双浮点数，就将精度限制为53个二进制数字或大约15-16个十进制数字。
本文收集自互联网，转载请注明来源。
如有侵权，请联系[email protected] 删除。
我来说两句