js 计算浮点数

JS的浮点计算

最近遇到了数值计算的时候，计算结果出现了类似于199.9999999999999999999的情况，但是被用来计算的两个数值都只是两位数。

就像这样      --------》         0.1 + 0.2 = 0.30000000000000004。

其实对于浮点数的四则运算，几乎所有的编程语言都会有类似精度误差的问题，只不过在其他语言中已经有封装好的方法来避免精度的问题，而 Js 是一门弱类型的语言，从设计思想上就没有对浮点数有个严格的数据类型，所以精度误差的问题就显得格外突出。下面就分析下为什么会有这个精度误差，以及怎样修复这个误差。

首先，我们站在计算机的角度去思考问题，0.1 + 0.2 这个看似简单的问题，众所周知，能被计算机读懂的是二进制，而不是我们经常看见的十进制，所以我们先把0.1 + 0.2转换为十进制，

0.1 => 0.0001 1001 1001 1001…（无限循环）

0.2 => 0.0011 0011 0011 0011…（无限循环）

双精度浮点数的小数部分最多支持 52 位，所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字，这时候，我们再把它转换为十进制，就成了 0.30000000000000004。

所以计算机在计算的时候，会先把数值转换为二进制，然后在进行相加，得到的二进制结果，在转化为十进制，这个时候结果就会变成后面多了很多位数的数字；

这个时候就会得到解决方案：将每个浮点数乘以10的N次方，计算完成后再除以10的N次方；

在网上找了一个封装的方法来进行转化（如下）

countFloat(E,S)

{

let n = Math.pow(10, S);

let res = Math.round(E * n) / n;

return res;

}

注释：E是计算表达式，S是需要乘以10的多少次方

所以     0.1 + 0.2    应该是：

countFloat(0.1+0.2,2);

最后的返回值是0.3