Kotlin：SumbyDouble 返回额外的小数

debugcn 发表于 Dev

羽衣甘蓝

我正在从 arraylist 中求和 double 值，它给出的附加小数为 99999，如何解决这个问题，请指导

前任

class ExDet{var expName:String ="",var expAmount:Double = 0.0}
    val arrayList = ArrayList<ExDet>()
        arrayList.add(ExDet("Abc 1",45.66))
        arrayList.add(ExDet("DEF 1",10.0))
        arrayList.add(ExDet("Lee 1",600.89))  
        arrayList.add(ExDet("Ifr 1",200.9))  

    var amt = arrayList.sumByDouble{ it.expAmount }

金额的预期值为：

Amt = 857.45

但它返回

Amt = 857.4499999

要测试的示例代码

data class ExDet(var expName:String ="" ,var expAmount:Double=0.0)

fun main(args: Array<String>) {

        val arrayList = ArrayList<ExDet>()
        arrayList.add(ExDet("Abc 1",45.66))
        arrayList.add(ExDet("DEF 1",10.0))
        arrayList.add(ExDet("Lee 1",600.89))  
        arrayList.add(ExDet("Ifr 1",200.9)) 
    var amt = arrayList.sumByDouble{ it.expAmount }

    println("Amount is : $amt")

}

安德烈·阿图斯

您面临的问题是浮点数建立在基数 2 之上，而不是基数 10。

想想如何轻松地将三分之一表示为分数（1/3），但是当您转换为十进制时，您会在小数点（即 0.33...）之后得到一个重复（重复）数字。当以基数 2 表示时，一些十进制数会重复出现，例如x.9. 计算机的位数是有限的，因此 (base-2) 数被截断。所有截断错误都可以累加。

您需要四舍五入到所需的精度（例如round(x * 100) / 100).

如果您只对它的显示方式感兴趣，那么您可以使用format类似于“%.2f”的函数。