Rounding
前言
以前写过一篇关于 Rouding 的 decimal, double, float, 但有点杂乱, 这篇做一个整理.
Why need rouding?
除法会诞生小数. 甚至会诞生无限小数 (除不完).
无限小数肯定是不行的, 计算机也存不了. 这时就需要 rouding.
即便不是无限, 如果计算的是价钱, 而且价钱必须用钱币支付, 那么小数位最多也只能是两位. 因为最小的钱币是分, 这时也需要 rounding.
跟小数有关的操作
加减乘 int 是不会出现小数的,除非其中一个数有小数.
除法很有可能会产生小数.
加减只会让小数变得更少 (因为进位)
乘法可能会让小数变多, 比如 1.22 * 1.33. 乘法其中一个是 int 就不会变多,只可能变少, 变多的情况不会无穷, 最大也只是 2个相加比如 1.22 * 1.33 最多是 4 为小数
加减乘是不会无穷小数的, 即便在乘 < 0 也不会无穷
只有除会产生无穷小数点.
When to round?
在做计算的时候, 要想清楚每一次的场景, 要 round to 几位, 人算和电脑算要一致。不然就会非常混乱了. 不要想说电脑能保留多少小数就保留多少, 电脑是会升级的, 而且不同地方小数位是不一样的, 要自己决定, 自己 round.
1 / 3 * 3 = ?
如果是 double 的话 JS, C# 都是等于 1
如果是 decimal 的话 C# 等于 0.999999....28 个 9
如果是 decimal Java 的话, 直接报错, Java 要求特别声明保留多少小数位和多余的要怎么 rounding 才不会报错 (严格才是对的)
参考: BigDecimal and “java.lang.ArithmeticException: Non-terminating decimal expansion”
各种 rounding 方式
参考: Rounding Methods
小学老师教过 "四舍五入",
5.4 舍去等于 5
5.5 进入等于 6
但其实世上还有许多其它的 rounding 方式. 关键都在中间点 5 的时候怎么处理, 每个 round 有不同的方式.
Half Round Up
四舍五入
5.4 = 5
5.5 = 6
当遇到 negative number 时, up 指向 positive, 所以
-5.4 = -5
-5.5 = -5 (half 指的是一半, 就是 点5 的时候, up 的方向是 posive (上图), 所以 -5.5 去 -5)
-5.6 = -6
Half Round Down
五舍六入
5.5 = 5
5.6 = 6
当遇到 negative number 时, up 指向 positive, 所以
-5.4 = -5
-5.5 = -6 (和上面不同, 这里是要去 down, 所以是往 negative 走, 就是 -6 咯)
-5.6 = -6
Round Half Away From Zero (common)
5.5 = 6
-5.5 = -6
Round Half Towards Zero
5.5 = 5
-5.5 = -5
Round to Even (bank)
在 half 的时候往 even 方向去 round
5.5 = 6 (之所以 round up to 6 是因为 6 是偶数)
6.5 = 6 (之所以 round down to 6 是因为 6 是偶数)
Round to Odd
在 half 的时候往 odd 方向去 round
5.5 = 5 (之所以 round down to 5 是因为 5 是奇数)
6.5 = 7 (之所以 round up to 7 是因为 7 是奇数)
Ceiling and Floor
Ceiling 是不管啥都 round up
5.1 – 5.9 = 6
-5.1 – -5.9 = -5 (往 position 走是 up)
Floor 是不管啥都 round down
5.1 – 5.9 = 5
5.1 – 5.9 = -6
C# 的 rounding
C# 默认的 rounding 是 Round to Even, 大部分 bank 喜欢的.
另外它还支持, Away From Zero 和 Towards Zero
ToNegativeInfinity 和 ToPositiveInfinity 我倒是不清楚是什么来的.
big.js 的 rounding
big.js 只支持 Round to Even, Away From Zero, Ceiling 和 Floor,默认是 1。
如果需要支持更多 rounding 可以使用 bignumber.js, decimal.js。它们都是姐妹版本来的。
Rounding的更多相关文章
- hdu 1036 (I/O routines, fgets, sscanf, %02d, rounding, atoi, strtol) 分类: hdoj 2015-06-16 19:37 32人阅读 评论(0) 收藏
thanks to http://stackoverflow.com/questions/2144459/using-scanf-to-accept-user-input and http://sta ...
- Codeforces Round #204 (Div. 2)->C. Jeff and Rounding
C. Jeff and Rounding time limit per test 1 second memory limit per test 256 megabytes input standard ...
- CodeForces 352C. Jeff and Rounding(贪心)
C. Jeff and Rounding time limit per test: 1 second memory limit per test: 256 megabytes input: stan ...
- Codeforces Round #451 (Div. 2)-898A. Rounding 898B.Proper Nutrition 898C.Phone Numbers(大佬容器套容器) 898D.Alarm Clock(超时了,待补坑)(贪心的思想)
A. Rounding time limit per test 1 second memory limit per test 256 megabytes input standard input ou ...
- SAP MM 物料主数据MRP2 视图Rounding Value字段
SAP MM 物料主数据MRP2 视图Rounding Value字段 如下物料号,MRP2视图中,维护了rounding value字段值为50. MRP type :PD Lot size:EX ...
- python decimal.quantize()参数rounding的各参数解释与行为
我最开始其实是由于疑惑ROUND_FLOOR和 ROUND_DOWN的表现区别才看了一波文档,但是感觉拉出一票以前没有留意过的东西. 贴一个decimal文档里面的解释: ROUND_CEILING ...
- CF&&CC百套计划3 Codeforces Round #204 (Div. 1) A. Jeff and Rounding
http://codeforces.com/problemset/problem/351/A 题意: 2*n个数,选n个数上取整,n个数下取整 最小化 abs(取整之后数的和-原来数的和) 先使所有的 ...
- CF898A Rounding
题意翻译 给你一个数字,将其“四舍六入”,末尾为5舍去或进位都可,求最终的数字. 题目描述 Vasya has a non-negative integer n n n . He wants to r ...
- Codeforces 898 A. Rounding
A. Rounding time limit per test 1 second memory limit per test 256 megabytes input standard inpu ...
- Codeforces Round #451 (Div. 2) A. Rounding【分类讨论/易错】
A. Rounding time limit per test 1 second memory limit per test 256 megabytes input standard input ou ...
随机推荐
- 如何立刻读取在MySQL中自动生成的主键
在写一个接口时,我们需要对两个表分别动刀,但是我们需要前一个表的主键作为下一个表的功能外键, 如果使用mybatisplus,insert完成之后便可以直接在对象中取出这个id值 如果使用mybati ...
- 七天.NET 8操作SQLite入门到实战 - 第七天Blazor学生管理页面编写和接口对接(3)
前言 本章节我们的主要内容是完善Blazor学生管理页面的编写和接口对接. 七天.NET 8 操作 SQLite 入门到实战详细教程 第一天 SQLite 简介 第二天 在 Windows 上配置 S ...
- Python和RPA网页自动化-处理alert弹框
以百度为例,分别使用python和RPA自动化完成以下步骤:设置->搜索设置->保存设置->确定 1.python代码如下 注意:[已经记录下您的使用偏好]弹框是无法捕获网页源代码的 ...
- 【Java】SPI机制
SPI全称: 服务供应商接口 Service Provider Interface 服务发现机制 入门概念视频来自于: https://www.bilibili.com/video/BV1E44y1N ...
- HPA* (Near Optimal hierarchical Path-finding)算法的效果图
本文中的图全部来自: https://mohitsharma0690.blogspot.com/2016/01/hierarchical-pathfinding.html 图的说明: Here is ...
- (HASEE)神州笔记本 还原手册 —— 笔记本系统还原
新买了一个笔记本,神州笔记本(HASEE),随机所带的手册,为防止丢失故把内容记录下来. 开机时按:CTRL + H 进入还原界面,点击"系统还原",点击"恢复出厂备份& ...
- python 中 ctypes 的使用尝试
最近在看Python的性能优化方面的文章,突然想起ctypes这个模块,对于这个模块一直不是很理解,不过再次看完相关资料有了些新的观点. ctypes 这个模块个人观点就是提供一个Python类型与C ...
- VSCODE远程调试中如何开启X11转发实现APP屏幕转发
本文所要做的事情不做过多解释,本文前提是使用本地window10上的VScode远程调试Ubuntu上的代码,在该过程中我们需要查看可视化显示,为此我们使用VSCODE插件来实现X11转发. VSco ...
- 图表全能王(ChartStudio) 上架VisionPro!
图表全能王(ChartStudio) - 终极图表制作工具!支持条形图.折线图.面积图.柱形图.条形图.饼图.玫瑰图.雷达图.牛肉图.风琴图.旭日图.桑基图等图表. https://apps.appl ...
- Xinference实战指南:全面解析LLM大模型部署流程,携手Dify打造高效AI应用实践案例,加速AI项目落地进程
Xinference实战指南:全面解析LLM大模型部署流程,携手Dify打造高效AI应用实践案例,加速AI项目落地进程 Xorbits Inference (Xinference) 是一个开源平台,用 ...