前言

以前写过一篇关于 Rouding 的 decimal, double, float, 但有点杂乱, 这篇做一个整理.

Why need rouding?

除法会诞生小数. 甚至会诞生无限小数 (除不完).

无限小数肯定是不行的, 计算机也存不了. 这时就需要 rouding.

即便不是无限, 如果计算的是价钱, 而且价钱必须用钱币支付, 那么小数位最多也只能是两位. 因为最小的钱币是分, 这时也需要 rounding.

跟小数有关的操作

加减乘 int 是不会出现小数的,除非其中一个数有小数.

除法很有可能会产生小数.

加减只会让小数变得更少 (因为进位)

乘法可能会让小数变多, 比如 1.22 * 1.33. 乘法其中一个是 int 就不会变多,只可能变少, 变多的情况不会无穷, 最大也只是 2个相加比如 1.22 * 1.33 最多是 4 为小数

加减乘是不会无穷小数的, 即便在乘 < 0 也不会无穷

只有除会产生无穷小数点.

When to round?

在做计算的时候, 要想清楚每一次的场景, 要 round to 几位, 人算和电脑算要一致。不然就会非常混乱了. 不要想说电脑能保留多少小数就保留多少, 电脑是会升级的, 而且不同地方小数位是不一样的, 要自己决定, 自己 round.

1 / 3 * 3 = ?

如果是 double 的话 JS, C# 都是等于 1

如果是 decimal 的话 C# 等于 0.999999....28 个 9

如果是 decimal Java 的话, 直接报错, Java 要求特别声明保留多少小数位和多余的要怎么 rounding 才不会报错 (严格才是对的)

参考: BigDecimal and “java.lang.ArithmeticException: Non-terminating decimal expansion”

各种 rounding 方式

参考: Rounding Methods

小学老师教过 "四舍五入",

5.4 舍去等于 5

5.5 进入等于 6

但其实世上还有许多其它的 rounding 方式. 关键都在中间点 5 的时候怎么处理, 每个 round 有不同的方式.

Half Round Up

四舍五入

5.4 = 5

5.5 = 6

当遇到 negative number 时, up 指向 positive, 所以

-5.4 = -5

-5.5 = -5 (half 指的是一半, 就是 点5 的时候, up 的方向是 posive (上图), 所以 -5.5 去 -5)

-5.6 = -6

Half Round Down

五舍六入

5.5 = 5

5.6 = 6

当遇到 negative number 时, up 指向 positive, 所以

-5.4 = -5

-5.5 = -6 (和上面不同, 这里是要去 down, 所以是往 negative 走, 就是 -6 咯)

-5.6 = -6

Round Half Away From Zero (common)

5.5 = 6

-5.5 = -6

Round Half Towards Zero

5.5 = 5

-5.5 = -5

Round to Even (bank)

在 half 的时候往 even 方向去 round

5.5 = 6 (之所以 round up to 6 是因为 6 是偶数)

6.5 = 6 (之所以 round down to 6 是因为 6 是偶数)

Round to Odd

在 half 的时候往 odd 方向去 round

5.5 = 5 (之所以 round down to 5 是因为 5 是奇数)

6.5 = 7 (之所以 round up to 7 是因为 7 是奇数)

Ceiling and Floor

Ceiling 是不管啥都 round up

5.1 – 5.9 = 6

-5.1 – -5.9 = -5 (往 position 走是 up)

Floor 是不管啥都 round down

5.1 – 5.9 = 5

5.1 – 5.9 = -6

C# 的 rounding

参考: C#中Math.Round四舍五入的用法详解

C# 默认的 rounding 是 Round to Even, 大部分 bank 喜欢的.

另外它还支持, Away From Zero 和 Towards Zero

ToNegativeInfinity 和 ToPositiveInfinity 我倒是不清楚是什么来的.

big.js 的 rounding

big.js 只支持 Round to Even, Away From Zero, Ceiling 和 Floor,默认是 1。

如果需要支持更多 rounding 可以使用 bignumber.jsdecimal.js。它们都是姐妹版本来的。

Rounding的更多相关文章

  1. hdu 1036 (I/O routines, fgets, sscanf, %02d, rounding, atoi, strtol) 分类: hdoj 2015-06-16 19:37 32人阅读 评论(0) 收藏

    thanks to http://stackoverflow.com/questions/2144459/using-scanf-to-accept-user-input and http://sta ...

  2. Codeforces Round #204 (Div. 2)->C. Jeff and Rounding

    C. Jeff and Rounding time limit per test 1 second memory limit per test 256 megabytes input standard ...

  3. CodeForces 352C. Jeff and Rounding(贪心)

    C. Jeff and Rounding time limit per test:  1 second memory limit per test: 256 megabytes input: stan ...

  4. Codeforces Round #451 (Div. 2)-898A. Rounding 898B.Proper Nutrition 898C.Phone Numbers(大佬容器套容器) 898D.Alarm Clock(超时了,待补坑)(贪心的思想)

    A. Rounding time limit per test 1 second memory limit per test 256 megabytes input standard input ou ...

  5. SAP MM 物料主数据MRP2 视图Rounding Value字段

    SAP MM 物料主数据MRP2 视图Rounding Value字段 如下物料号,MRP2视图中,维护了rounding value字段值为50. MRP type :PD Lot size:EX ...

  6. python decimal.quantize()参数rounding的各参数解释与行为

    我最开始其实是由于疑惑ROUND_FLOOR和 ROUND_DOWN的表现区别才看了一波文档,但是感觉拉出一票以前没有留意过的东西. 贴一个decimal文档里面的解释: ROUND_CEILING ...

  7. CF&&CC百套计划3 Codeforces Round #204 (Div. 1) A. Jeff and Rounding

    http://codeforces.com/problemset/problem/351/A 题意: 2*n个数,选n个数上取整,n个数下取整 最小化 abs(取整之后数的和-原来数的和) 先使所有的 ...

  8. CF898A Rounding

    题意翻译 给你一个数字,将其“四舍六入”,末尾为5舍去或进位都可,求最终的数字. 题目描述 Vasya has a non-negative integer n n n . He wants to r ...

  9. Codeforces 898 A. Rounding

      A. Rounding   time limit per test 1 second memory limit per test 256 megabytes input standard inpu ...

  10. Codeforces Round #451 (Div. 2) A. Rounding【分类讨论/易错】

    A. Rounding time limit per test 1 second memory limit per test 256 megabytes input standard input ou ...

随机推荐

  1. Service Mesh Summit 回顾 | 轻舟服务网格的无侵入增强 Istio 经验

    在云原生社区近日主办的 Service Mesh Summit 2022 服务网格峰会上,网易数帆云原生技术专家方志恒分享了轻舟服务网格无侵入增强 Istio 的经验,本文据此次分享整理,介绍了对无侵 ...

  2. 微软账号密码修改后提示密码错误的解决方法(远程桌面&smb共享访问等)

    众所周知,自从微软将Microsoft账户与Windows账号强制绑定后,使用起来便一直有诸多困难,在Microsoft Support和搜索引擎长期搜索解决方案未果,今天偶然在一个佬的博客翻到了这个 ...

  3. 深入解读RabbitMQ工作原理

    RabbitMQ简介 在介绍RabbitMQ之前首先要介绍一下MQ,MQ是什么?MQ全称是Message Queue,可以理解为消息队列的意思. RabbitMQ是一个实现了AMQP(Advanced ...

  4. ModuleNotFoundError: No module named 'import_export'

    当你遇到 "ModuleNotFoundError: No module named 'import_export'" 错误时,这表示你的 Python 脚本或应用程序试图导入名为 ...

  5. 工作单元(UnitOfWork) 模式 (2) .NET Core

    1.工作单元(UnitOfWork)是什么? Maintains a list of objects affected by a business transaction and coordinate ...

  6. python selenium 判断元素是否存在,实现:找到元素,执行对应的代码;找不到元素,继续执行其他代码

    selenium因为找不到元素会抛出异常,导致执行结束 可以考虑使用driver.find_elements(),找不到元素时就会返回空列表,使用if-else语句,判断列表是否为空,非空,则正常找到 ...

  7. php 选择驱动写法

    在 ThinkPHP 5.1 中,若要根据配置文件 sms.conf 中的设置在不同的短信渠道之间进行切换,可以采用以下步骤: 第一步:定义接口 首先,创建一个接口,这个接口将由所有短信渠道类实现.这 ...

  8. linux学习(7):Linux最常用150个命令汇总

    Linux最常用150个命令汇总 线上查询及帮助命令(2个) man 查看命令帮助,命令的词典,更复杂的还有info,但不常用. help 查看Linux内置命令的帮助,比如cd命令. 文件和目录操作 ...

  9. 【JavaScript】从N个下拉动态监听改变的option值

    同事因为这个问题人傻了,是从Ajax请求获取的动态数据遍历的表格 然后表格行的单元格又有下拉选择,有N个下拉,要取出选择的值进行二次请求 <select name="A" i ...

  10. 普通用户权限运行docker

    docker安装后默认权限是管理员,在Ubuntu系统中需要使用sudo命令,但是很多时候docker的拉取操作都是写在脚步里面的,因此执行的时候十分的难搞,如果给脚本sudo权限后那么整个的环境路径 ...