js-number-precision

js数值精度

近期在项目中有出现大数值的订单号9148368244236619在调用接口时自动变成9148368244236620的情况,导致请求失误。本文特意总结了出现这种情况的原因,以及js精度相关的情况。

jquery[.data()]方法

在本次案例中,订单号是后端同步渲染到页面上的,

1
<div class="j_OrderNumber" data-ordernumber="9148368244236619"></div>

呈现在页面上的订单号数值没有问题9148368244236619,前端此时想获取到这个订单号:

1
2
3
var orderNumber = $('.j_OrderNumber).data('ordernumber'); // 9148368244236620
typeof(orderNumber) === 'number' // true

在这个取值赋值的过程中,超过安全值的大数值发生了变化,从9148368244236619变成了91483682442366120,这里的问题主要出现在jquerydata方法。

超过安全值Math.pow(2, 53)-1 -- 9007199254740991 的number类型在赋值的过程中会发生精度丢失,而我们在使用jquery的data方法取得的自定义html属性data-ordernumber值会强制转换成number类型,导致精度丢失。

而使用js原生的方法取dom节点的属性时,获取到的值都是string类型,这样就不会出现number类型精度丢失的问题。

1
2
3
var orderNumber = $('.j_OrderNumber')[0].dataset.ordernumber // '9148368244236619'
typeof(orderNumber) === 'string' // true

所以我们在通过自定义属性取值number类型时,并且预期这些值会是类似订单号这种会超过安全阈值的数值时,不要使用jquery的data方法。

大数值的精度问题

能够被“安全”呈现的最大整数是Math.pow(2, 53) - 1,即9007199254740992。在ES6中被定义为Number.MAX_SAFE_INTEGER

在开发环境,根据程序的特殊性,在有可能出现这种情况时我们应该杜绝掉超出安全阈值的大整数,并给出友好提示:

1
2
3
function isSafeInteger(num) {
return typeof(num) === 'number' && num % 1 == 0 && Math.abs(num) <= Math.pow(2, 53) -1;
}

在一般电商业务中比较常见出现大数值的场景也就是订单号了,这类场景后端传值给我们的时候都强制包装成string类型就会解决大多数的精度丢失问题了。

至于为什么会只有2的53次方-1的整数是安全的,可以看阮神的关于数值的文章有详细介绍

小数的精度问题

经典的 0.1 + 0.2 === 0.3 // false 问题

0.1 + 0.2 === 0.30000000000000004

小数比较

对于这类数值比较问题,如果我们已经知道了目标比较值,即如果我们已经明确要与0.3进行比较,我们也可以不需要得到0.1+0.2的真实期望结果值(0.3),因为如果我们要得到0.3,还需要对0.1和0.2进行操作。常规解法:

1
(0.1 * 10 + 0.2 * 10) / 10 = 0.3

在「你不知道的javascript」一书中有提到一种判断方法,设置一个误差范围值,通常也称为“机器精度”,对于javascript来说,这个值通常为Math.pow(2, -53)

我们可以将需要比较的两个值进行相减,再与这个机器精度进行比较,如果在误差范围内,我们也视为两个值是相等的。

1
2
3
function numbersCloseEnoughToEqual(num1, num2) {
return Math.abs(num1 - num2) < Math.pow(2, -53);
}

小数展示

对于电商业务来讲,小数经过四则运算后可能会出现失去精度的问题,但是作为展示来说我们都会调用toFixed()进行小数后几位的约定,调用了这个方法后小数失去精度的问题也就迎刃而解了,不可能出现0.30000000000000004这样的数值。

所以在业务中有需要进行小数四则运算并会展示在页面中,调用toFixed()方法!

但是toFixed()也有失去精度的时候!

1
2
1.335.toFixed(2)
// "1.33"

解决办法

1
2
3
4
5
6
function toFixed(num, s) {
var times = Math.pow(10, s)
var des = num * times + 0.5
des = parseInt(des, 10) / times
return des + ''
}

小数的四则运算

参考

本文来自二口南洋,有什么需要讨论的欢迎找我。