toFixed()与银行家舍入

一直在用toFixed()方法做浮点数的舍入取值,如果只是客户端展示数据是没有多大问题的,但是如果涉及到和后端互交,数据的精度可能会导致接口对接失败,当然了,涉及安全性的数值,比如金额之类的不应该放在前端计算,应该以后端为准,少数情况下如果需要的时候,则需要修复其精度

1.出现问题的场景

  1. 首先,我们发现在ie浏览器与其他的主流浏览器中,由于二进制下浮点数的存储问题,toFixed()的行为是不一样的,也说明了各浏览器厂家的做法不一致。

在ie11中:

10.015.toFixed(2)
2// 打印结果:"0.02"

在chrome中:

10.015.toFixed(2)
2// 打印结果:"0.01"

对于此类问题,部分场景是不可接受的,测试可能会打出一个兼容性的bug

  1. 其次,我们虽然知道,toFixed()是一种银行家舍入,但是他确是入五取单,而不是银行家舍入所说的入五取双,同样是银行家舍入,此函数计算精度与后台java等语言的银行家舍入精度不同,可能照成接口验证失败。

在前端浏览器中:

10.025.toFixed(2)
2// 打印结果:"0.03"
30.035.toFixed(2)
4// 打印结果:"0.03"

在后端服务器中:

10.025.setScale(2,RoundingMode.HALF_EVEN)
2// 打印结果:"0.02"
30.035.setScale(2,RoundingMode.HALF_EVEN)
4// 打印结果:"0.04"

事实上,正确的做法应该是:有关金额的运算应该完全交由后端计算,然后交给前端展示

2.修复方案

方案很简单,我们只要重写Number.prototype.toFixed方法就可以了。

  1. 如果我们需要普通的四舍五入:

1/* eslint-disable no-extend-native */ // 规避eslint不可修改原型报错
2Number.prototype.originalToFixed = Number.prototype.toFixed // 保留原方法
3Number.prototype.toFixed = function(length = 0) { // 默认保留0位小数
4  let result
5  // 处理负数
6  let that = this
7  let isNegative = false
8  if (this < 0) {
9    isNegative = true
10    that = -this
11  }
12  let thisNum = that.toString()
13  if (thisNum.indexOf('.') === -1) thisNum = thisNum + '.0'
14  for (let i = 0; i < length; i++) {
15    thisNum = thisNum + '0'
16  }
17  const dotIndex = thisNum.indexOf('.')
18  thisNum = thisNum.slice(0, dotIndex) + thisNum.slice((dotIndex + 1), (dotIndex + 1 + length)) + '.' + thisNum.slice(dotIndex + 1 + length)
19  thisNum = Number(thisNum).toString()
20  const thisNumList = thisNum.split('.') // 分离整数与小数
21  if (thisNumList.length === 1) result = thisNum.toString() // 如果只有整数,则不需要处理
22  else {
23    if (Number(thisNumList[1][0]) >= 5) result = (Number(thisNumList[0]) + 1).toString() // 五入
24    else result = thisNumList[0] // 四舍
25  }
26  if (length === 0) return `${isNegative ? '-' : ''}${result}`
27  else {
28    while (result.length < length + 1) { // 如果位数不够,则用0补齐
29      result = '0' + result
30    }
31    return result.slice(0, (result.length - length)) + '.' + result.slice(result.length - length)
32  }
33}

  1. 如果我们需要使用正常的银行家舍入:

1/* eslint-disable no-extend-native */ // 规避eslint不可修改原型报错
2Number.prototype.originalToFixed = Number.prototype.toFixed // 保留原方法
3Number.prototype.toFixed = function(length = 0) { // 默认保留0位小数
4  let result
5  // 处理负数
6  let that = this
7  let isNegative = false
8  if (this < 0) {
9    isNegative = true
10    that = -this
11  }
12  let thisNum = that.toString()
13  if (thisNum.indexOf('.') === -1) thisNum = thisNum + '.0'
14  for (let i = 0; i < length; i++) {
15    thisNum = thisNum + '0'
16  }
17  const dotIndex = thisNum.indexOf('.')
18  thisNum = thisNum.slice(0, dotIndex) + thisNum.slice((dotIndex + 1), (dotIndex + 1 + length)) + '.' + thisNum.slice(dotIndex + 1 + length)
19  thisNum = Number(thisNum).toString()
20  const thisNumList = thisNum.split('.') // 分离整数与小数
21  if (thisNumList.length === 1) result = thisNum.toString() // 如果只有整数,则不需要处理
22  else {
23    if (Number(thisNumList[1][0]) > 5) result = (Number(thisNumList[0]) + 1).toString() // 六入
24    else if (Number(thisNumList[1][0]) < 5) result = thisNumList[0] // 四舍
25    else { // 判断5的情况
26      if (thisNumList[1].length > 1) result = (Number(thisNumList[0]) + 1).toString() // 如果5后还有位数则入
27      else {
28        if (Number(thisNumList[0][thisNumList[0].length - 1]) % 2 === 0) result = thisNumList[0] // 五前为偶应舍去
29        else result = (Number(thisNumList[0]) + 1).toString() // 五前为奇要进一
30      }
31    }
32  }
33  if (length === 0) return `${isNegative ? '-' : ''}${result}`
34  else {
35    while (result.length < length + 1) { // 如果位数不够,则用0补齐
36      result = '0' + result
37    }
38    return `${isNegative ? '-' : ''}${result.slice(0, (result.length - length)) + '.' + result.slice(result.length - length)}`
39  }
40}

这样就统一了舍入的精度,可以根据后台需要选择。



toFixed()与银行家舍入的更多相关文章

  1. JS013. 重写toFixed( )方法,toFixed()原理 - 四舍五入?银行家舍入法?No!六舍七允许四舍五入√!

    以下为场景实测与原理分析,需要重写函数请直接滚动至页尾!!! 语法 - Number.prototype.toFixed( ) // toFixed()方法 使用定点表示法来格式化一个数值. numO ...

  2. 关于BigDecimal 和 double 类型保存金钱,以及精度问题,银行家舍入法

    1. BigDecimal 类型数据 的创建,构造函数 有 public BigDecimal(BigInteger intVal, long val, int scale, int prec); p ...

  3. 四舍五入VS银行家舍入法

    在学习python的时候,遇见了一个颠覆了我传统观念的四舍五入. 看下面,round()的结果和我们以前根深蒂固的四舍五入是不同的. >>> round(0.5) 0 >> ...

  4. round函数——银行家舍入算法

    在处理四舍五入时,相信大部分人会使用math.round函数(不同的语言应该都有).有没有考虑过,这个函数是不是自己所需要的? po主碰到的问题是用来计算平均分.有个顶真的学生反映,明明是86.5,怎 ...

  5. 关于 JavaScript 的 精度丢失 与 近似舍入

    一.背景 最近做 dashborad 图表时,涉及计算小数且四舍五入精确到 N 位.后发现 js 算出来的结果跟我预想的不一样,看来这里面并不简单-- 二.JS 与 精度 1.精度处理 首先明确两点: ...

  6. tofixed方法 四舍五入

    tofixed方法 四舍五入 toFixed() 方法可把 Number 四舍五入为指定小数位数的数字.例如将数据Num保留2位小数,则表示为:toFixed(Num):但是其四舍五入的规则与数学中的 ...

  7. Javascript中 toFixed

    javascript中toFixed使用的是银行家舍入规则. 银行家舍入:所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法. 简单来说就是:四舍六入五考虑,五后非零就进一,五后为零 ...

  8. .NET压缩图片保存 .NET CORE WebApi Post跨域提交 C# Debug和release判断用法 tofixed方法 四舍五入 (function($){})(jQuery); 使用VUE+iView+.Net Core上传图片

    .NET压缩图片保存   需求: 需要将用户后买的图片批量下载打包压缩,并且分不同的文件夹(因:购买了多个用户的图片情况) 文章中用到了一个第三方的类库,Nuget下载 SharpZipLib 目前用 ...

  9. js toFixed()方法的坑

    javascript中toFixed使用的是银行家舍入规则. 银行家舍入:所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法. 简单来说就是:四舍六入五考虑,五后非零就进一,五后为零 ...

随机推荐

  1. CodeGym-17~20

    读文章 0.如果是基本数据类型的话,在数组中就存储特定的值:如果是对象的话,在数组中就是存储对象的引用. 1.数组本身就是对象 再读文章 0.Arrays.sort(array); Arrays.to ...

  2. 用iptables封杀内网的bt软件

    我所在的网络情况是这样的!1台FC3和3台win2000组成一个局域网!四台机都接在100m的交换机上.在FC3上有两个网卡eth0接外网 adsl eth1接在交换机.FC3做nat带3台win20 ...

  3. nginx反向代理出现了代理的端口号

    nginx反向代理显示了代理的端口号 nginx反向代理配置文件 upstream mall { server 1.1.1.1:10261 weight=1; } server { listen 80 ...

  4. RabbitMQ Go客户端教程2——任务队列/工作队列

    本文翻译自RabbitMQ官网的Go语言客户端系列教程,本文首发于我的个人博客:liwenzhou.com,教程共分为六篇,本文是第二篇--任务队列. 这些教程涵盖了使用RabbitMQ创建消息传递应 ...

  5. python练习册 每天一个小程序 第0006题

    1 # -*-coding:utf-8-*- 2 __author__ = 'Deen' 3 ''' 4 题目描述: 5 你有一个目录,放了你一个月的日记,都是 txt,为了避免分词的问题,假设内容都 ...

  6. MATLAB批量打印输出600PPI的图像且图像不留空白

    一 前言 最近收到审稿人的修改意见,其中有三条:一条为<RC: There were only five images evaluated in the experiment, and I re ...

  7. Java并发编程虚假唤醒问题(生产者和消费者关系)

    何为虚假唤醒: 当一个条件满足时,很多线程都被唤醒了,但是只有其中部分是有用的唤醒,其它的唤醒都是无用功:比如买货:如果商品本来没有货物,突然进了一件商品,这是所有的线程都被唤醒了,但是只能一个人买, ...

  8. 学习openstack(五)

    OpenStackOpenStack介绍OpenStack是一种免费的开源平台,帮助服务提供商实现类似于亚马逊EC2和S3的基础设施服务.OpenStack当前有三个核心项目:计算(Nova),对象存 ...

  9. 面试官:什么是MySQL 事务与 MVCC 原理?

    作者:小林coding 图解计算机基础网站:https://xiaolincoding.com/ 大家好,我是小林. 之前写过一篇 MySQL 的 MVCC 的工作原理,最近有读者在网站上学习的时候, ...

  10. video标签学习使用

    video标签学习使用 学习前的理解 video是HTML5中的新标签,可以用来播放视频.对于不同的浏览器支持的视频格式不一样,但是具体浏览器支持的类型并不清楚. 支持的类型 视频的格式分为编码格式和 ...