问题:

在用 js 进行小数四则运算时发现了一个重大问题,比如:0.7 * 0.8 = 0.5599999999999999

分析:

在 js 中只有一种数字类型 Number,而且在 js 中所有的数字都是以 IEEE-754 标准格式表示的。浮点数的精度问题并不是 js 特有的,因为有些小数以二进制表示位数是无穷的,比如 1.1,其程序实际上无法真正的表示 1.1,而只能做到一定程度上的准确(1.09999999999999999),这是无法避免的精度丢失。

通过 chrome 控制台,我们可以得到一些测试数据:

1 - 0.9 == 0.1    //false
1 - 0.8 == 0.2 //false
1 - 0.7 == 0.3 //false
1 - 0.6 == 0.4 //true

解决方法:

那么该如何避免这类问题呢?解决的方法有很多,比较常用的是将浮点数转化成整数再做运算。

//除法函数,用来得到精确的除法结果
//说明:javascript 的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用:accDiv(arg1,arg2)
//返回值:arg1 除以 arg2 的精确结果
function accDiv(arg1,arg2){
var t1 = 0,t2 = 0,r1,r2;
try{t1 = arg1.toString().split('.')[1].length}catch(e){}
try{t2 = arg2.toString().split('.')[1].length}catch(e){}
with(Math){
r1 = Number(arg1.toString().replace('.',''));
r2 = Number(arg2.toString().replace('.',''));
return (r1 / r2) * pow(10,t2 - t1);
}
}
//给 Number 类型增加一个 div 方法,调用起来更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
};
//乘法函数,用来得到精确的乘法结果
//说明:javascript 的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用:accMul(arg1,arg2)
//返回值:arg1 乘以 arg2 的精确结果
function accMul(arg1,arg2)
{
var m = 0,s1 = arg1.toString(),s2 = arg2.toString();
try{m += s1.split('.')[1].length}catch(e){}
try{m += s2.split('.')[1].length}catch(e){}
return Number(s1.replace('.',''))*Number(s2.replace('.','')) / Math.pow(10,m);
}
//给 Number 类型增加一个 mul 方法,调用起来更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
};
//加法函数,用来得到精确的加法结果
//说明:javascript 的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用:accAdd(arg1,arg2)
//返回值:arg1 加上 arg2 的精确结果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
m = Math.pow(10,Math.max(r1,r2));
return (arg1 * m + arg2 * m) / m;
}
//给 Number 类型增加一个 add 方法,调用起来更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
//减法函数
function accSub(arg1,arg2){
var r1,r2,m,n;
try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
m = Math.pow(10,Math.max(r1,r2));
//动态控制精度长度
n = (r1 >= r2) ? r1 : r2;
return ((arg2 * m - arg1 * m) / m).toFixed(n);
}
///给 Number 类增加一个 sub 方法,调用起来更加方便
Number.prototype.sub = function (arg){
return accSub(arg,this);
}

这样如果你要计算 0.7 * 0.8,只需(0.7).mul(0.8),调用 mul 方法就可以得到准确的结果了。

总结:

1、尽量不要用 js 进行复杂的运算,特别是浮点数的运算。

2、如果一定要进行浮点数运算,先将浮点数转化为整型,再运算。

【javascript】浮点数运算问题分析及解决方法的更多相关文章

  1. SQL Server2005索引碎片分析和解决方法

    SQL Server2005索引碎片分析和解决方法 本文作者(郑贤娴),请您在阅读本文时尊重作者版权. 摘要: SQL Server,为了反应数据的更新,需要维护表上的索引,因而这些索引会形成碎片.根 ...

  2. Nginx 504 Gateway Time-out分析及解决方法

    一.场景还原php程序在执行抓取远程图片库并保存至本地服务器的时候,出现了“504 Gateway Time-out”错误提示. 问题定位:由于图片巨多,所以下载时间很长(10分钟以上),引起网关超时 ...

  3. 改进动态设置query cache导致额外锁开销的问题分析及解决方法-mysql 5.5 以上版本

    改进动态设置query cache导致额外锁开销的问题分析及解决方法 关键字:dynamic switch for query cache,  lock overhead for query cach ...

  4. Code:Blocks 中文乱码问题原因分析和解决方法

    下面说说修改的地方. 1.修改源文件保存编码在:settings->Editor->gernal settings 看到右边的Encoding group Box了吗?如下图所示: Use ...

  5. 【FAQ】接入HMS Core推送服务,服务端下发消息常见错误码原因分析及解决方法

    HMS Core推送服务支持开发者使用HTTPS协议接入Push服务端,可以从服务器发送下行消息给终端设备.这篇文章汇总了服务端下发消息最常见的6个错误码,并提供了原因分析和解决方法,有遇到类似问题的 ...

  6. JavaScript 浮点数运算 精度问题

    JavaScript小数在做四则运算时,精度会丢失,这会在项目中引起诸多不便,先请看下面脚本. //加减 <script type="text/javascript" lan ...

  7. 【转】javascript 浮点数运算问题

    大多数语言在处理浮点数的时候都会遇到精度问题,但是在JS里似乎特别严重,来看一个例子 alert(45.6*13); 结果居然是592.800000000001,当然加法之类的也会有这个问题 那这是j ...

  8. C#中异常:“The type initializer to throw an exception(类型初始值设定项引发异常)”的简单分析与解决方法

    对于C#中异常:“The type initializer to throw an exception(类型初始值设定项引发异常)”的简单分析,目前本人分析两种情况,如下: 情况一: 借鉴麒麟.NET ...

  9. apache外网不能访问分析与解决方法

    apache安装好以后,在本机可以用:http://localhost 或者 http://127.0.0.1进行访问,但是,在外网(相对本机来说的,局域网也算)不能访问. 这种情况可以分为两个问题, ...

随机推荐

  1. jmeter 签名MD5生成

    请求接口需要同时发送签名,签名定义为: 可以看出签名就是把用户的密码 .用户名 和签名key生成一个md5串就可以了 刚好jmeter 有个md5 生成,生成前需要获取name ,password k ...

  2. 实现session(session数据)的共享,解决分布式session共享

    为什么要实现共享? 首先我们应该明白,为什么要实现共享,如果你的网站是存放在一个机器上,那么是不存在这个问题的,因为会话数据就在这台机器,但是如果你使用了负载均衡把请求分发到不同的机器呢?这个时候会话 ...

  3. [转]如何禁止 IIS 在 C:\Windows\System32\LogFiles\HTTPERR 中生成日志文件

    1. 在注册表 HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\HTTP\Parameters 中新建 dword 值:EnableError ...

  4. OpenGL学习脚印:深度測试(depth testing)

    写在前面 上一节我们使用AssImp载入了3d模型,效果已经令人激动了.可是绘制效率和场景真实感还存在不足,接下来我们还是要保持耐心,继续学习一些高级主题,等学完后面的高级主题,我们再次来改进我们载入 ...

  5. node调试的两种方法

    刚开始学node.js的时候,一直在用node-inspector,虽然很麻烦,但聊胜于无.后面公司牛人推荐使用node-webkit,就再也没用过node-inspector.再后来node.js版 ...

  6. Vue知识点超快速学习

    基础知识: vue的生命周期: beforeCreate/created.beforeMount/mounted.beforeUpdate/updated.beforeDestory/destorye ...

  7. [SQL in Azure] Getting Started with SQL Server in Azure Virtual Machines

    This topic provides guidelines on how to sign up for SQL Server on a Azure virtual machine and how t ...

  8. VirtualBox虚拟机网络环境解析和搭建-NAT、桥接、Host-Only、Internal、端口映射

    一.NAT模式 特点: 1.如果主机可以上网,虚拟机可以上网 2.虚拟机之间不能ping通 3.虚拟机可以ping通主机(此时ping虚拟机的网关,即是ping主机) 4.主机不能ping通虚拟机 应 ...

  9. Lua 自己实现排序sort比较方法,抛出错误invalid order function for sorting

    明天新功能就要上了,结果刚刚突然QA说项目抛出了错误.握草,吓得立马出了一身汗. 查了一下错误,发现可能是自己写的不稳定排序造成的.自己感觉应该就是.把排序方法写成稳定的之后,代码分离编译进手机,跑了 ...

  10. Asp.Net支付宝手机网站支付接口API之C#版

    一.准备工作 1.使用企业支付宝签约手机网站支付 2.下载支付宝官方demo 文档地址:https://doc.open.alipay.com/doc2/detail?treeId=60&ar ...