前言

以前写过一篇关于 Rouding 的 decimal, double, float, 但有点杂乱, 这篇做一个整理.

Why need rouding?

除法会诞生小数. 甚至会诞生无限小数 (除不完).

无限小数肯定是不行的, 计算机也存不了. 这时就需要 rouding.

即便不是无限, 如果计算的是价钱, 而且价钱必须用钱币支付, 那么小数位最多也只能是两位. 因为最小的钱币是分, 这时也需要 rounding.

跟小数有关的操作

加减乘 int 是不会出现小数的,除非其中一个数有小数.

除法很有可能会产生小数.

加减只会让小数变得更少 (因为进位)

乘法可能会让小数变多, 比如 1.22 * 1.33. 乘法其中一个是 int 就不会变多,只可能变少, 变多的情况不会无穷, 最大也只是 2个相加比如 1.22 * 1.33 最多是 4 为小数

加减乘是不会无穷小数的, 即便在乘 < 0 也不会无穷

只有除会产生无穷小数点.

When to round?

在做计算的时候, 要想清楚每一次的场景, 要 round to 几位, 人算和电脑算要一致。不然就会非常混乱了. 不要想说电脑能保留多少小数就保留多少, 电脑是会升级的, 而且不同地方小数位是不一样的, 要自己决定, 自己 round.

1 / 3 * 3 = ?

如果是 double 的话 JS, C# 都是等于 1

如果是 decimal 的话 C# 等于 0.999999....28 个 9

如果是 decimal Java 的话, 直接报错, Java 要求特别声明保留多少小数位和多余的要怎么 rounding 才不会报错 (严格才是对的)

参考: BigDecimal and “java.lang.ArithmeticException: Non-terminating decimal expansion”

各种 rounding 方式

参考: Rounding Methods

小学老师教过 "四舍五入",

5.4 舍去等于 5

5.5 进入等于 6

但其实世上还有许多其它的 rounding 方式. 关键都在中间点 5 的时候怎么处理, 每个 round 有不同的方式.

Half Round Up

四舍五入

5.4 = 5

5.5 = 6

当遇到 negative number 时, up 指向 positive, 所以

-5.4 = -5

-5.5 = -5 (half 指的是一半, 就是 点5 的时候, up 的方向是 posive (上图), 所以 -5.5 去 -5)

-5.6 = -6

Half Round Down

五舍六入

5.5 = 5

5.6 = 6

当遇到 negative number 时, up 指向 positive, 所以

-5.4 = -5

-5.5 = -6 (和上面不同, 这里是要去 down, 所以是往 negative 走, 就是 -6 咯)

-5.6 = -6

Round Half Away From Zero (common)

5.5 = 6

-5.5 = -6

Round Half Towards Zero

5.5 = 5

-5.5 = -5

Round to Even (bank)

在 half 的时候往 even 方向去 round

5.5 = 6 (之所以 round up to 6 是因为 6 是偶数)

6.5 = 6 (之所以 round down to 6 是因为 6 是偶数)

Round to Odd

在 half 的时候往 odd 方向去 round

5.5 = 5 (之所以 round down to 5 是因为 5 是奇数)

6.5 = 7 (之所以 round up to 7 是因为 7 是奇数)

Ceiling and Floor

Ceiling 是不管啥都 round up

5.1 – 5.9 = 6

-5.1 – -5.9 = -5 (往 position 走是 up)

Floor 是不管啥都 round down

5.1 – 5.9 = 5

5.1 – 5.9 = -6

C# 的 rounding

参考: C#中Math.Round四舍五入的用法详解

C# 默认的 rounding 是 Round to Even, 大部分 bank 喜欢的.

另外它还支持, Away From Zero 和 Towards Zero

ToNegativeInfinity 和 ToPositiveInfinity 我倒是不清楚是什么来的.

big.js 的 rounding

big.js 只支持 Round to Even, Away From Zero, Ceiling 和 Floor,默认是 1。

如果需要支持更多 rounding 可以使用 bignumber.jsdecimal.js。它们都是姐妹版本来的。

Rounding的更多相关文章

  1. hdu 1036 (I/O routines, fgets, sscanf, %02d, rounding, atoi, strtol) 分类: hdoj 2015-06-16 19:37 32人阅读 评论(0) 收藏

    thanks to http://stackoverflow.com/questions/2144459/using-scanf-to-accept-user-input and http://sta ...

  2. Codeforces Round #204 (Div. 2)->C. Jeff and Rounding

    C. Jeff and Rounding time limit per test 1 second memory limit per test 256 megabytes input standard ...

  3. CodeForces 352C. Jeff and Rounding(贪心)

    C. Jeff and Rounding time limit per test:  1 second memory limit per test: 256 megabytes input: stan ...

  4. Codeforces Round #451 (Div. 2)-898A. Rounding 898B.Proper Nutrition 898C.Phone Numbers(大佬容器套容器) 898D.Alarm Clock(超时了,待补坑)(贪心的思想)

    A. Rounding time limit per test 1 second memory limit per test 256 megabytes input standard input ou ...

  5. SAP MM 物料主数据MRP2 视图Rounding Value字段

    SAP MM 物料主数据MRP2 视图Rounding Value字段 如下物料号,MRP2视图中,维护了rounding value字段值为50. MRP type :PD Lot size:EX ...

  6. python decimal.quantize()参数rounding的各参数解释与行为

    我最开始其实是由于疑惑ROUND_FLOOR和 ROUND_DOWN的表现区别才看了一波文档,但是感觉拉出一票以前没有留意过的东西. 贴一个decimal文档里面的解释: ROUND_CEILING ...

  7. CF&&CC百套计划3 Codeforces Round #204 (Div. 1) A. Jeff and Rounding

    http://codeforces.com/problemset/problem/351/A 题意: 2*n个数,选n个数上取整,n个数下取整 最小化 abs(取整之后数的和-原来数的和) 先使所有的 ...

  8. CF898A Rounding

    题意翻译 给你一个数字,将其“四舍六入”,末尾为5舍去或进位都可,求最终的数字. 题目描述 Vasya has a non-negative integer n n n . He wants to r ...

  9. Codeforces 898 A. Rounding

      A. Rounding   time limit per test 1 second memory limit per test 256 megabytes input standard inpu ...

  10. Codeforces Round #451 (Div. 2) A. Rounding【分类讨论/易错】

    A. Rounding time limit per test 1 second memory limit per test 256 megabytes input standard input ou ...

随机推荐

  1. 如何立刻读取在MySQL中自动生成的主键

    在写一个接口时,我们需要对两个表分别动刀,但是我们需要前一个表的主键作为下一个表的功能外键, 如果使用mybatisplus,insert完成之后便可以直接在对象中取出这个id值 如果使用mybati ...

  2. 七天.NET 8操作SQLite入门到实战 - 第七天Blazor学生管理页面编写和接口对接(3)

    前言 本章节我们的主要内容是完善Blazor学生管理页面的编写和接口对接. 七天.NET 8 操作 SQLite 入门到实战详细教程 第一天 SQLite 简介 第二天 在 Windows 上配置 S ...

  3. Python和RPA网页自动化-处理alert弹框

    以百度为例,分别使用python和RPA自动化完成以下步骤:设置->搜索设置->保存设置->确定 1.python代码如下 注意:[已经记录下您的使用偏好]弹框是无法捕获网页源代码的 ...

  4. 【Java】SPI机制

    SPI全称: 服务供应商接口 Service Provider Interface 服务发现机制 入门概念视频来自于: https://www.bilibili.com/video/BV1E44y1N ...

  5. HPA* (Near Optimal hierarchical Path-finding)算法的效果图

    本文中的图全部来自: https://mohitsharma0690.blogspot.com/2016/01/hierarchical-pathfinding.html 图的说明: Here is ...

  6. (HASEE)神州笔记本 还原手册 —— 笔记本系统还原

    新买了一个笔记本,神州笔记本(HASEE),随机所带的手册,为防止丢失故把内容记录下来. 开机时按:CTRL + H 进入还原界面,点击"系统还原",点击"恢复出厂备份& ...

  7. python 中 ctypes 的使用尝试

    最近在看Python的性能优化方面的文章,突然想起ctypes这个模块,对于这个模块一直不是很理解,不过再次看完相关资料有了些新的观点. ctypes 这个模块个人观点就是提供一个Python类型与C ...

  8. VSCODE远程调试中如何开启X11转发实现APP屏幕转发

    本文所要做的事情不做过多解释,本文前提是使用本地window10上的VScode远程调试Ubuntu上的代码,在该过程中我们需要查看可视化显示,为此我们使用VSCODE插件来实现X11转发. VSco ...

  9. 图表全能王(ChartStudio) 上架VisionPro!

    图表全能王(ChartStudio) - 终极图表制作工具!支持条形图.折线图.面积图.柱形图.条形图.饼图.玫瑰图.雷达图.牛肉图.风琴图.旭日图.桑基图等图表. https://apps.appl ...

  10. Xinference实战指南:全面解析LLM大模型部署流程,携手Dify打造高效AI应用实践案例,加速AI项目落地进程

    Xinference实战指南:全面解析LLM大模型部署流程,携手Dify打造高效AI应用实践案例,加速AI项目落地进程 Xorbits Inference (Xinference) 是一个开源平台,用 ...