我尝试在vb.net中写数字5991除以2987的结果,而不舍入小数点或浮点数,严格等于小数点后12位的2.005691329092。小数部分(0.05691329092)也以科学计数法记为17/2987。我的测试总是使我进入2.005691329093的取整!
2 17/2987
提前致谢,
最好的祝福,
克劳德
实际值正确,问题是如何格式化值以按预期显示它。
没有内置方法,但是您可以将值乘以小数点后的所需位数,然后截断它。
Dim value As Double = 5991.0 / 2987.0
value = Math.Truncate(value * Math.Pow(10, 12)) / Math.Pow(10, 12)
Console.WriteLine($"Result: {value:F12}")
本文收集自互联网,转载请注明来源。
如有侵权,请联系[email protected] 删除。
我来说两句