问题:

在用 js 进行小数四则运算时发现了一个重大问题,比如:0.7 * 0.8 = 0.5599999999999999

分析:

在 js 中只有一种数字类型 Number,而且在 js 中所有的数字都是以 IEEE-754 标准格式表示的。浮点数的精度问题并不是 js 特有的,因为有些小数以二进制表示位数是无穷的,比如 1.1,其程序实际上无法真正的表示 1.1,而只能做到一定程度上的准确(1.09999999999999999),这是无法避免的精度丢失。

通过 chrome 控制台,我们可以得到一些测试数据:

1 - 0.9 == 0.1    //false
1 - 0.8 == 0.2 //false
1 - 0.7 == 0.3 //false
1 - 0.6 == 0.4 //true

解决方法:

那么该如何避免这类问题呢?解决的方法有很多,比较常用的是将浮点数转化成整数再做运算。

//除法函数,用来得到精确的除法结果
//说明:javascript 的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用:accDiv(arg1,arg2)
//返回值:arg1 除以 arg2 的精确结果
function accDiv(arg1,arg2){
var t1 = 0,t2 = 0,r1,r2;
try{t1 = arg1.toString().split('.')[1].length}catch(e){}
try{t2 = arg2.toString().split('.')[1].length}catch(e){}
with(Math){
r1 = Number(arg1.toString().replace('.',''));
r2 = Number(arg2.toString().replace('.',''));
return (r1 / r2) * pow(10,t2 - t1);
}
}
//给 Number 类型增加一个 div 方法,调用起来更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
};
//乘法函数,用来得到精确的乘法结果
//说明:javascript 的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用:accMul(arg1,arg2)
//返回值:arg1 乘以 arg2 的精确结果
function accMul(arg1,arg2)
{
var m = 0,s1 = arg1.toString(),s2 = arg2.toString();
try{m += s1.split('.')[1].length}catch(e){}
try{m += s2.split('.')[1].length}catch(e){}
return Number(s1.replace('.',''))*Number(s2.replace('.','')) / Math.pow(10,m);
}
//给 Number 类型增加一个 mul 方法,调用起来更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
};
//加法函数,用来得到精确的加法结果
//说明:javascript 的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用:accAdd(arg1,arg2)
//返回值:arg1 加上 arg2 的精确结果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
m = Math.pow(10,Math.max(r1,r2));
return (arg1 * m + arg2 * m) / m;
}
//给 Number 类型增加一个 add 方法,调用起来更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
//减法函数
function accSub(arg1,arg2){
var r1,r2,m,n;
try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
m = Math.pow(10,Math.max(r1,r2));
//动态控制精度长度
n = (r1 >= r2) ? r1 : r2;
return ((arg2 * m - arg1 * m) / m).toFixed(n);
}
///给 Number 类增加一个 sub 方法,调用起来更加方便
Number.prototype.sub = function (arg){
return accSub(arg,this);
}

这样如果你要计算 0.7 * 0.8,只需(0.7).mul(0.8),调用 mul 方法就可以得到准确的结果了。

总结:

1、尽量不要用 js 进行复杂的运算,特别是浮点数的运算。

2、如果一定要进行浮点数运算,先将浮点数转化为整型,再运算。

【javascript】浮点数运算问题分析及解决方法的更多相关文章

  1. SQL Server2005索引碎片分析和解决方法

    SQL Server2005索引碎片分析和解决方法 本文作者(郑贤娴),请您在阅读本文时尊重作者版权. 摘要: SQL Server,为了反应数据的更新,需要维护表上的索引,因而这些索引会形成碎片.根 ...

  2. Nginx 504 Gateway Time-out分析及解决方法

    一.场景还原php程序在执行抓取远程图片库并保存至本地服务器的时候,出现了“504 Gateway Time-out”错误提示. 问题定位:由于图片巨多,所以下载时间很长(10分钟以上),引起网关超时 ...

  3. 改进动态设置query cache导致额外锁开销的问题分析及解决方法-mysql 5.5 以上版本

    改进动态设置query cache导致额外锁开销的问题分析及解决方法 关键字:dynamic switch for query cache,  lock overhead for query cach ...

  4. Code:Blocks 中文乱码问题原因分析和解决方法

    下面说说修改的地方. 1.修改源文件保存编码在:settings->Editor->gernal settings 看到右边的Encoding group Box了吗?如下图所示: Use ...

  5. 【FAQ】接入HMS Core推送服务,服务端下发消息常见错误码原因分析及解决方法

    HMS Core推送服务支持开发者使用HTTPS协议接入Push服务端,可以从服务器发送下行消息给终端设备.这篇文章汇总了服务端下发消息最常见的6个错误码,并提供了原因分析和解决方法,有遇到类似问题的 ...

  6. JavaScript 浮点数运算 精度问题

    JavaScript小数在做四则运算时,精度会丢失,这会在项目中引起诸多不便,先请看下面脚本. //加减 <script type="text/javascript" lan ...

  7. 【转】javascript 浮点数运算问题

    大多数语言在处理浮点数的时候都会遇到精度问题,但是在JS里似乎特别严重,来看一个例子 alert(45.6*13); 结果居然是592.800000000001,当然加法之类的也会有这个问题 那这是j ...

  8. C#中异常:“The type initializer to throw an exception(类型初始值设定项引发异常)”的简单分析与解决方法

    对于C#中异常:“The type initializer to throw an exception(类型初始值设定项引发异常)”的简单分析,目前本人分析两种情况,如下: 情况一: 借鉴麒麟.NET ...

  9. apache外网不能访问分析与解决方法

    apache安装好以后,在本机可以用:http://localhost 或者 http://127.0.0.1进行访问,但是,在外网(相对本机来说的,局域网也算)不能访问. 这种情况可以分为两个问题, ...

随机推荐

  1. 物联网将在2018年实现大规模发展--IBM的四大预测

    物联网将在2018年实现大规模发展--IBM的四大预测    数据是数字化变革的基本组成部分,物联网.人工智能.区块链.边缘计算等技术预计将在来年掀起巨浪, 因为这些技术是收集.分析和存储信息的方法. ...

  2. 微信小程序 weui 使用方法

      https://github.com/Tencent/weui-wxss/ 下载地址用于小程序的https://github.com/Tencent/weui   下载地址用于H5    运用示例 ...

  3. talend 连接mysql数据库没有权限

    使用talend连接一个mysql数据库,提示没有权限,最后发现mysql服务器的配置中只监听了127.0.0.1的端口,拒绝非本地的请求.通过将/etc/mysql/my.cnf中的bind_add ...

  4. 微信小程序实现给循环列表添加点击样式实例

    微信小程序有个属性hover-class='active',是指当点击列表元素时当按下鼠标左键会显示active样式,但是鼠标离开样式就会复原.可以参考以下解决方案,直接上代码: wxml: ? 1 ...

  5. Android 控件: Webview 的一些知识点

    WebView 加载网页,当点击返回键的时,会显示上一个页面,并刷新. 同时可以对返回上一个页面进行干预,就是用到了缓存. webview加载网页的几个模式,即websetting中设置的加载模式.w ...

  6. FFmpeg(10)-利用FFmpeg进行视频像素格式和尺寸的转换(sws_getCachedContext(), sws_scale())

    一.包含头文件和库文件 像素格式的相关函数包含在 libswscale.so 库中,CMakeLists需要做下列改动: # swscale add_library(swscale SHARED IM ...

  7. .NET MVC5+ EF+AutoFac自动注入框架

    1.创建一个MVC系统 VIEW显示页面代码: <link href="~/Content/bootstrap.css" rel="stylesheet" ...

  8. [Windows Azure] Getting Started with Windows Azure SQL Database

    In this tutorial you will learn the fundamentals of Windows Azure SQL Database administration using ...

  9. DIOCP开源项目-数据库连接池的使用<多帐套数据库>

    很久没有写DIOCP的Demo了,主要公司的事情太繁琐,工作之余都不想动了,之前承若的群里面朋友们的DEMO,昨天晚上恶补了一下,把对数据库连接池的操作加入到了Demo中,大家可以通过SVN下载到最新 ...

  10. 【教程】ubuntu下配置nvc详细教程

    Preface 虽然以前在windows上远控linux都是用的FTP+CRT,不过有些时候还是不太方便,比如不能用IDE对程序进行调试,现在就来配置下VNC,过程中出了些错误,上网查询时发现很多解决 ...