<!DOCTYPE html>

<html xmlns="http://www.w3.org/1999/xhtml">

<head>

<meta http-equiv="Content-Type" content="text/html; charset=utf-8"/>

    <title></title>

    <script type="text/javascript">

        //给Number类型增加   加法函数

        Number.prototype.add = function (arg) {

            var l1 = this.toString().indexOf('.') > 0 ? this.toString().split(".")[1].length : 0,

                l2 = arg.toString().indexOf('.') > 0 ? arg.toString().split(".")[1].length : 0,

                pw = Math.pow(10, Math.max(l1, l2));

            return (arg * pw + pw * this) / pw;

        };

        //给Number类型增加   减法函数

        Number.prototype.sub = function (arg) {

            var l1 = this.toString().indexOf('.') > 0 ? this.toString().split(".")[1].length : 0,

                l2 = arg.toString().indexOf('.') > 0 ? arg.toString().split(".")[1].length : 0,

                pw = Math.pow(10, Math.max(l1, l2)),

                //动态控制精度长度

                l = (l1 >= l2) ? l1 : l2;

            return ((this * pw - arg * pw) / pw).toFixed(l);

        }

        //给Number类型增加   乘法函数

        Number.prototype.mul = function (arg) {

            var pw = 0;

            pw += this.toString().indexOf('.') > 0 ? this.toString().split(".")[1].length : 0;

            pw += arg.toString().split(".")[1].length > 0 ? arg.toString().split(".")[1].length : 0;

            return Number(arg.toString().replace(".", "")) * Number(this.toString().replace(".", "")) / Math.pow(10, pw);

        }

        //给Number类型增加   除法函数

        Number.prototype.div = function (arg) {

            var l1 = this.toString().indexOf('.') > 0 ? this.toString().split(".")[1].length : 0,

            l2 = arg.toString().indexOf('.') > 0 ? arg.toString().split(".")[1].length : 0;

            with (Math) {

                r1 = Number(this.toString().replace(".", ""));

                r2 = Number(arg.toString().replace(".", ""));

                return (r1 / r2) * pow(10, l2 - l1);

            }

        }

        /*加法函数  调用实例*/

        var testadd = [1.123, 2.456, 3.456, 4, 5, 6, 7, 8, 9, 0];

        console.log(testadd[0].add(testadd[1]));    //3.579

        console.log(1.123 + 2.456);                 //错误对比：3.5789999999999997

        var count = 0;

        for (i in testadd)

            count = count.add(testadd[i]);

        console.log(count);                          //46.035

        console.log('加法函数  调用实例');

        /*减法函数  调用实例*/

        var testsub = [1.123, 2.456, 3.456, 4, 5, 6, 7, 8, 9, 0];

        console.log(testsub[1].sub(testsub[0]));    //1.333

        console.log(testsub[1].sub(testsub[2]));    //-1.000

        console.log(2.456 - 3.456);                 //小数对比：-1

        console.log('减法函数  调用实例');

        /*乘法函数  调用实例*/

        var testmul = [1.123, 2.456, 3.456, 4, 5, 6, 7, 8, 9, 0];

        console.log(testmul[1].mul(testmul[2]));    //8.487936

        console.log(2.456 * 3.456);                 //8.487936

        console.log('乘法函数  调用实例');

        //乘法函数  调用实例

        var testdiv = [1.123, 2.456, 3.456, 4, 5, 6, 7, 8, 9, 0];

        console.log(testdiv[1].div(testdiv[2]));    //0.7106481481481481

        console.log(2.456 / 3.456);                 //0.7106481481481481

        console.log('乘法函数  调用实例');

    </script>

</head>

<body>

</body>

</html>

　　

给Number类型增加加法、减、乘、除函数，解决float相加结果精度错乱的问题的更多相关文章

  1. Oracle数据库中NARCHAR转换成NUMBER类型

    1.修改后的代码: public void addDirectorActorKeyword(long idStart, long idEnd) { SeriesMgr seriesMgr = new ...

  2. ORACLE 中NUMBER 类型 低精度转换成高精度

    例如: 表User中有一个字段 salary  Number(10,3), 如果想把字段salary的类型提高精度到salary  Number(10,6),保留六位小数, 解决办法:1,ALTER ...

  3. JS数据类型之Number类型

    Number类型的转换及方法 var num = 10; num.toString() //"10"转字符串,参数表示几进制 num.toFixed(2) //10.00 自动舍入 ...

  4. [20191003]oracle number类型存储转化脚本.txt

    [20191003]oracle number类型存储转化脚本.txt --//完善脚本,增加支持科学记数法.比如1e4之类的写法. 2.测试:$ cat test.txt012251234100-4 ...

  5. html5 input number类型使用整理

      一.  html5 input中的数字number类型, 只能输入整数,如果要输入浮点数呢,可以通过max.min和step去定义. type="number" 数字类型 mi ...

  6. ORACLE NUMBER类型Scale为0引发的问题

    今天遇到了一个很有意思的NUMBER类型Scale引发的问题,我用一个简单的测试用例来展示一下这个案例.假如有个TEST的表,有个字段类型为NUMBER,我插入下面两条数据 CREATE TABLE ...

  7. javascript学习笔记2-typeof、Number类型、Boolean()

    1.typeof操作符 对一个值使用typeof操作符可能返回下列某个字符串 "undefined"——这个值未定义 "boolean"——这个值是布尔值 &q ...

  8. oracle中的number类型

    number 数据类型 number (precision,scale) a)    precision表示数字中的有效位,如果没有指定precision的话,oracle将使用38作为精度: b)  ...

  9. Date类型，Boolean类型，Number类型

    1.Date类型:  1)创建Date对象:    var date=new Date();  //Date对象会把当前日期和时间保存为其初始值 2)Date对象的方法:    --这些得到的都是数字 ...

随机推荐

  1. jQuery官方基础教程笔记(转载)

    本文转载于阮一峰的博文,内容基础,结构清晰,是jquery入门不可多得的资料,非常好,赞一个. 阮一峰:jQuery官方基础教程笔记 jQuery是目前使用最广泛的javascript函数库. 据统计 ...

  2. [UE4]武器碰撞

    实现武器战斗伤害系统,击中时如何发出碰撞事件产生伤害,目前探索的有通过物理碰撞和LineTrace两种方法. 物理碰撞通过Overlap事件的方法,优点是易于实现,缺点是无法具体到碰撞骨骼位置,低帧数 ...

  3. 6.7 Binder机制

    Binder在Android系统中江湖地位非常之高.在Zygote孵化出system_server进程后,在system_server进程中出初始化支持整个Android framework的各种各样 ...

  4. C++11 并发指南六(atomic 类型详解一 atomic_flag 介绍)

    C++11 并发指南已经写了 5 章,前五章重点介绍了多线程编程方面的内容,但大部分内容只涉及多线程.互斥量.条件变量和异步编程相关的 API,C++11 程序员完全可以不必知道这些 API 在底层是 ...

  5. 字符串匹配算法之BF(Brute-Force)算法

    BF(Brute-Force)算法 蛮力搜索,比较简单的一种字符串匹配算法,在处理简单的数据时候就可以用这种算法,完全匹配,就是速度慢啊. 基本思想 从目标串s 的第一个字符起和模式串t的第一个字符进 ...

  6. C语言宏高级用法 [总结]

    1.前言  今天看代码时候,遇到一些宏,之前没有见过,感觉挺新鲜.如是上网google一下,顺便总结一下,方便以后学习和运用.C语言程序中广泛的使用宏定义,采用关键字define进行定义,宏只是一种简 ...

  7. [自娱自乐] 3、超声波测距模块DIY笔记（三）

    前言 上一节我们已经研究了超声波接收模块并自己设计了一个超声波接收模块,在此基础上又尝试用单片机加反相器构成生成40KHz的超声波发射电路,可是发现采用这种设计的发射电路存在严重的发射功率太低问题,对 ...

  8. 我们可以用SharePoint做什么

    前言 不知不觉作为一个SharePoint的开发人员若干年了,从SharePoint api 开始学习,到了解SharePoint的结构,逐渐一点点了解sharepoint的体系:从SharePoin ...

  9. AngularJS快速入门指南01：导言

    AngularJS使用新的attributes扩展了HTML AngularJS对单页面应用的支持非常好(SPAs) AngularJS非常容易学习 现在就开始学习AngularJS吧! 关于本指南 ...

  10. js获取url中的参数,url中传递中文的时候通过js解码的方式

    如果传递的参数是: <a href="${pageContext.request.contextPath}/productdisplay/productDisplay_productD ...