JS007. 深入探讨带浮点数运算丢失精度问题（二进制的浮点数存储方式）

复现与概述

当JS在进行浮点数运算时可能产生丢失精度的情况：

从肉眼可见的程度上观察，发生精度丢失的浮点数是没有规律的，但该浮点数丢失精度的问题会100%复现。经查阅，这个问题要追溯至浮点数的二进制存储方式，然而就高数而言，无限接近1的0.999999…和1是等价的，1 / ∞ ≈ 0 同理，在二进制中也同样存在这一情况。

找到原因

现在寻找浮点数的精度丢失问题跟二进制存储到底存在什么联系。

JavaScript引擎 - v8核心代码中，对于小数存储位双精度浮点，即64位保存的，但是这64位又分为三部分：

由于52位尾数用于记录数值，所以前端的精准位数应该是2^53-1即15位。当超过15位的时候就会出现精度损失。

例如小数2.55的储存方式：

最后的52位是一个1000110011001100的有限循环，但对于计算机来说，可以微妙的察觉到上文提到的两对参数失精问题大概就是由此而来：

再谈谈toFixed(n)，它的处理方式就是在尾数位上减去第n位以外的小数，然后判断剩下的尾数是否大于2^-（n+1），大于等于就进位，小于等于就不进位。例如：

2.55.toFixed(1)

0   10000000000 　　0100011001100110011001100110011001100110011001100110
　　　　　　　　　　-  01000000000000000000000000000000000000000000000000
　　　　　　　　　　=  0000011001100110011001100110011001100110011001100110

然而   0000011001100110011001100110011001100110011001100110   即   0.000011001100110011001100110011001100110011001100110    =   0.04999999999999982236431605997495353221893310546875   <   2^-2=0.05

也就是说不会进位，实际上v8核心是通过尾数移位并通过某一个指定的标志位是否为1来判断进位的。

解决方法

百度上已经有许多封装好的成熟代码，基本围绕着重写  Number.prototype.toFixed( )  解决，本文不在赘述。

此处贴上一个觉得靠谱的toFixed( ) 重写文章： js toFixed失去精度问题

---

版权声明：本文提到的外链皆为原作者原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接和本声明。

文章1：https://blog.csdn.net/xidianyueyong/article/details/87189141

文章2：https://www.cnblogs.com/ranyonsue/p/11388281.html