toFixed()与银行家舍入
toFixed()与银行家舍入
一直在用toFixed()方法做浮点数的舍入取值,如果只是客户端展示数据是没有多大问题的,但是如果涉及到和后端互交,数据的精度可能会导致接口对接失败,当然了,涉及安全性的数值,比如金额之类的不应该放在前端计算,应该以后端为准,少数情况下如果需要的时候,则需要修复其精度
1.出现问题的场景
- 首先,我们发现在ie浏览器与其他的主流浏览器中,由于二进制下浮点数的存储问题,toFixed()的行为是不一样的,也说明了各浏览器厂家的做法不一致。
在ie11中:
10.015.toFixed(2)
2// 打印结果:"0.02"
在chrome中:
10.015.toFixed(2)
2// 打印结果:"0.01"
对于此类问题,部分场景是不可接受的,测试可能会打出一个兼容性的bug
- 其次,我们虽然知道,toFixed()是一种银行家舍入,但是他确是入五取单,而不是银行家舍入所说的入五取双,同样是银行家舍入,此函数计算精度与后台java等语言的银行家舍入精度不同,可能照成接口验证失败。
在前端浏览器中:
10.025.toFixed(2)
2// 打印结果:"0.03"
30.035.toFixed(2)
4// 打印结果:"0.03"
在后端服务器中:
10.025.setScale(2,RoundingMode.HALF_EVEN)
2// 打印结果:"0.02"
30.035.setScale(2,RoundingMode.HALF_EVEN)
4// 打印结果:"0.04"
事实上,正确的做法应该是:有关金额的运算应该完全交由后端计算,然后交给前端展示
2.修复方案
方案很简单,我们只要重写Number.prototype.toFixed方法就可以了。
- 如果我们需要普通的四舍五入:
1/* eslint-disable no-extend-native */ // 规避eslint不可修改原型报错
2Number.prototype.originalToFixed = Number.prototype.toFixed // 保留原方法
3Number.prototype.toFixed = function(length = 0) { // 默认保留0位小数
4 let result
5 // 处理负数
6 let that = this
7 let isNegative = false
8 if (this < 0) {
9 isNegative = true
10 that = -this
11 }
12 let thisNum = that.toString()
13 if (thisNum.indexOf('.') === -1) thisNum = thisNum + '.0'
14 for (let i = 0; i < length; i++) {
15 thisNum = thisNum + '0'
16 }
17 const dotIndex = thisNum.indexOf('.')
18 thisNum = thisNum.slice(0, dotIndex) + thisNum.slice((dotIndex + 1), (dotIndex + 1 + length)) + '.' + thisNum.slice(dotIndex + 1 + length)
19 thisNum = Number(thisNum).toString()
20 const thisNumList = thisNum.split('.') // 分离整数与小数
21 if (thisNumList.length === 1) result = thisNum.toString() // 如果只有整数,则不需要处理
22 else {
23 if (Number(thisNumList[1][0]) >= 5) result = (Number(thisNumList[0]) + 1).toString() // 五入
24 else result = thisNumList[0] // 四舍
25 }
26 if (length === 0) return `${isNegative ? '-' : ''}${result}`
27 else {
28 while (result.length < length + 1) { // 如果位数不够,则用0补齐
29 result = '0' + result
30 }
31 return result.slice(0, (result.length - length)) + '.' + result.slice(result.length - length)
32 }
33}
- 如果我们需要使用正常的银行家舍入:
1/* eslint-disable no-extend-native */ // 规避eslint不可修改原型报错
2Number.prototype.originalToFixed = Number.prototype.toFixed // 保留原方法
3Number.prototype.toFixed = function(length = 0) { // 默认保留0位小数
4 let result
5 // 处理负数
6 let that = this
7 let isNegative = false
8 if (this < 0) {
9 isNegative = true
10 that = -this
11 }
12 let thisNum = that.toString()
13 if (thisNum.indexOf('.') === -1) thisNum = thisNum + '.0'
14 for (let i = 0; i < length; i++) {
15 thisNum = thisNum + '0'
16 }
17 const dotIndex = thisNum.indexOf('.')
18 thisNum = thisNum.slice(0, dotIndex) + thisNum.slice((dotIndex + 1), (dotIndex + 1 + length)) + '.' + thisNum.slice(dotIndex + 1 + length)
19 thisNum = Number(thisNum).toString()
20 const thisNumList = thisNum.split('.') // 分离整数与小数
21 if (thisNumList.length === 1) result = thisNum.toString() // 如果只有整数,则不需要处理
22 else {
23 if (Number(thisNumList[1][0]) > 5) result = (Number(thisNumList[0]) + 1).toString() // 六入
24 else if (Number(thisNumList[1][0]) < 5) result = thisNumList[0] // 四舍
25 else { // 判断5的情况
26 if (thisNumList[1].length > 1) result = (Number(thisNumList[0]) + 1).toString() // 如果5后还有位数则入
27 else {
28 if (Number(thisNumList[0][thisNumList[0].length - 1]) % 2 === 0) result = thisNumList[0] // 五前为偶应舍去
29 else result = (Number(thisNumList[0]) + 1).toString() // 五前为奇要进一
30 }
31 }
32 }
33 if (length === 0) return `${isNegative ? '-' : ''}${result}`
34 else {
35 while (result.length < length + 1) { // 如果位数不够,则用0补齐
36 result = '0' + result
37 }
38 return `${isNegative ? '-' : ''}${result.slice(0, (result.length - length)) + '.' + result.slice(result.length - length)}`
39 }
40}
这样就统一了舍入的精度,可以根据后台需要选择。

toFixed()与银行家舍入的更多相关文章
- JS013. 重写toFixed( )方法,toFixed()原理 - 四舍五入?银行家舍入法?No!六舍七允许四舍五入√!
以下为场景实测与原理分析,需要重写函数请直接滚动至页尾!!! 语法 - Number.prototype.toFixed( ) // toFixed()方法 使用定点表示法来格式化一个数值. numO ...
- 关于BigDecimal 和 double 类型保存金钱,以及精度问题,银行家舍入法
1. BigDecimal 类型数据 的创建,构造函数 有 public BigDecimal(BigInteger intVal, long val, int scale, int prec); p ...
- 四舍五入VS银行家舍入法
在学习python的时候,遇见了一个颠覆了我传统观念的四舍五入. 看下面,round()的结果和我们以前根深蒂固的四舍五入是不同的. >>> round(0.5) 0 >> ...
- round函数——银行家舍入算法
在处理四舍五入时,相信大部分人会使用math.round函数(不同的语言应该都有).有没有考虑过,这个函数是不是自己所需要的? po主碰到的问题是用来计算平均分.有个顶真的学生反映,明明是86.5,怎 ...
- 关于 JavaScript 的 精度丢失 与 近似舍入
一.背景 最近做 dashborad 图表时,涉及计算小数且四舍五入精确到 N 位.后发现 js 算出来的结果跟我预想的不一样,看来这里面并不简单-- 二.JS 与 精度 1.精度处理 首先明确两点: ...
- tofixed方法 四舍五入
tofixed方法 四舍五入 toFixed() 方法可把 Number 四舍五入为指定小数位数的数字.例如将数据Num保留2位小数,则表示为:toFixed(Num):但是其四舍五入的规则与数学中的 ...
- Javascript中 toFixed
javascript中toFixed使用的是银行家舍入规则. 银行家舍入:所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法. 简单来说就是:四舍六入五考虑,五后非零就进一,五后为零 ...
- .NET压缩图片保存 .NET CORE WebApi Post跨域提交 C# Debug和release判断用法 tofixed方法 四舍五入 (function($){})(jQuery); 使用VUE+iView+.Net Core上传图片
.NET压缩图片保存 需求: 需要将用户后买的图片批量下载打包压缩,并且分不同的文件夹(因:购买了多个用户的图片情况) 文章中用到了一个第三方的类库,Nuget下载 SharpZipLib 目前用 ...
- js toFixed()方法的坑
javascript中toFixed使用的是银行家舍入规则. 银行家舍入:所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法. 简单来说就是:四舍六入五考虑,五后非零就进一,五后为零 ...
随机推荐
- 个人网站tqqj.top
建站历程 就在这里记录自己的建站历程吧!:) 2022-3-21 今天写这个建站历程实际上是有点晚了,因为我已经把网站完全上线了,意思就是说网站已经在运行了. 这个网站是准备建立自己的博客使用的,但是 ...
- 前端知识之css样式
前端之CSS样式 css介绍 css是为html标签设置样式的 css由选择器和声明组成 声明包括属性和属性值 声明之间用分号:隔开 css注释 /注释类容/ css的几种引入方式 行内样式 不推荐使 ...
- [SPDK/NVMe存储技术分析]011 - 内核态ib_post_send()源码剖析
OFA定义了一组标准的Verbs,并在用户态提供了一个标准库libibverbs.例如将一个工作请求(WR)放置到发送队列的Verb API是ibv_post_send(), 但是在Linux内核,对 ...
- request的自动urlencode问题解决
今天写盲注脚本的时候,由于题目对空格进行了过滤,所以必须要用%09进行代替,然而当我在脚本中,将payload的空格替换成%09的时候,抓包发现进行了两次编码,导致脚本一直跑不通. 自己在网上也没有找 ...
- You Don't Know JS Yet Book 1 Notes
Get Started - 前言 But let me be clear: I don't think it's possible to ever fully know JS. That's not ...
- jQuery--子元素过滤
1.子元素过滤器介绍 :nth-child 获得指定索引的孩子,从1开始 :first-child 获得第一个孩子 :last-child 获得最后一个孩子 :only-child 获得独生子 2.代 ...
- Oracle入门基础(八)一一数据处理
SQL> SQL的类型 SQL> 1.DML(Data Manipulation Language 数据操作语言): select insert update delete SQL> ...
- kafka消费组创建和删除原理
0.10.0.0版本的kafka的消费者和消费组已经不在zk上注册节点了,那么消费组是以什么形式存在的呢? 1 入口 看下kafka自带的脚本kafka-consumer-groups.sh,可见脚本 ...
- 学习Solr(三)
本文以solr5为例说明在linux系统上单机安装过程. 一. solr的安装 1. solr能够安装在不同的操作系统上,安装solr前需要安装何时的JRE.当前版本5.5最低需要JRE1. ...
- 自动驾驶运动规划-Reeds Shepp曲线
自动驾驶运动规划-Reeds Shepp曲线 相比于Dubins Car只允许车辆向前运动,Reeds Shepp Car既允许车辆向前运动,也允许车辆向后运动. Reeds Shepp Car运动规 ...