微信小程序计算出错

发布网友 发布时间：2022-04-20 12:07

我来回答

共6个回答

热心网友 时间：2022-04-22 12:53

浮点数的二进制如果不能被整除，比如0.1的二进制0.000110011....无限下去，由于存储空间有限，计算机会舍去最大长度后面的值，最后我们会得到一个近似的值，处理方法：1，把浮点转为整数计算，比如 0.1*3 = 0.1*10*3/10 ; 2,toFixed(1)保留小数位

热心网友 时间：2022-04-22 14:11

根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据，不是小程序出错，用计算机计算都会出错

热心网友 时间：2022-04-22 15:46

浮点类型计算会有这个末位数字问题，可四舍五入保留小数

热心网友 时间：2022-04-22 17:37

可以设置一下小数点的位数

热心网友 时间：2022-04-22 19:45

小数点搞错了啊。

热心网友 时间：2022-04-22 22:10

比如你var str = 0.2 + 0.1 console.log(str)也不是0.3
但是var str = (0.2 * 100 + 0.1 * 100)/100 是0.3
你可以百度float、double精度丢失