我想知道，如何将 GPU 上张量的精度截断到所需的小数位？我想将张量中的元素限制为小数点后4位，但似乎Torch中没有内置函数可以高效地执行此操作。有谁知道如何做到这一点？
将张量中的数字四舍五入仍然不是直接的，但一个简单的解决方案（哪种适合我的目的）是将张量转换为半精度，如下所示：
require 'cutorch'
temp = torch.rand(3, 3)
temp = temp:cuda()
temp = temp:cudaHalf()
本文收集自互联网，转载请注明来源。
如有侵权，请联系[email protected] 删除。
我来说两句