前言

以前写过一篇关于 Rouding 的 decimal, double, float, 但有点杂乱, 这篇做一个整理.

Why need rouding?

除法会诞生小数. 甚至会诞生无限小数 (除不完).

无限小数肯定是不行的, 计算机也存不了. 这时就需要 rouding.

即便不是无限, 如果计算的是价钱, 而且价钱必须用钱币支付, 那么小数位最多也只能是两位. 因为最小的钱币是分, 这时也需要 rounding.

跟小数有关的操作

加减乘 int 是不会出现小数的,除非其中一个数有小数.

除法很有可能会产生小数.

加减只会让小数变得更少 (因为进位)

乘法可能会让小数变多, 比如 1.22 * 1.33. 乘法其中一个是 int 就不会变多,只可能变少, 变多的情况不会无穷, 最大也只是 2个相加比如 1.22 * 1.33 最多是 4 为小数

加减乘是不会无穷小数的, 即便在乘 < 0 也不会无穷

只有除会产生无穷小数点.

When to round?

在做计算的时候, 要想清楚每一次的场景, 要 round to 几位, 人算和电脑算要一致。不然就会非常混乱了. 不要想说电脑能保留多少小数就保留多少, 电脑是会升级的, 而且不同地方小数位是不一样的, 要自己决定, 自己 round.

1 / 3 * 3 = ?

如果是 double 的话 JS, C# 都是等于 1

如果是 decimal 的话 C# 等于 0.999999....28 个 9

如果是 decimal Java 的话, 直接报错, Java 要求特别声明保留多少小数位和多余的要怎么 rounding 才不会报错 (严格才是对的)

参考: BigDecimal and “java.lang.ArithmeticException: Non-terminating decimal expansion”

各种 rounding 方式

参考: Rounding Methods

小学老师教过 "四舍五入",

5.4 舍去等于 5

5.5 进入等于 6

但其实世上还有许多其它的 rounding 方式. 关键都在中间点 5 的时候怎么处理, 每个 round 有不同的方式.

Half Round Up

四舍五入

5.4 = 5

5.5 = 6

当遇到 negative number 时, up 指向 positive, 所以

-5.4 = -5

-5.5 = -5 (half 指的是一半, 就是 点5 的时候, up 的方向是 posive (上图), 所以 -5.5 去 -5)

-5.6 = -6

Half Round Down

五舍六入

5.5 = 5

5.6 = 6

当遇到 negative number 时, up 指向 positive, 所以

-5.4 = -5

-5.5 = -6 (和上面不同, 这里是要去 down, 所以是往 negative 走, 就是 -6 咯)

-5.6 = -6

Round Half Away From Zero (common)

5.5 = 6

-5.5 = -6

Round Half Towards Zero

5.5 = 5

-5.5 = -5

Round to Even (bank)

在 half 的时候往 even 方向去 round

5.5 = 6 (之所以 round up to 6 是因为 6 是偶数)

6.5 = 6 (之所以 round down to 6 是因为 6 是偶数)

Round to Odd

在 half 的时候往 odd 方向去 round

5.5 = 5 (之所以 round down to 5 是因为 5 是奇数)

6.5 = 7 (之所以 round up to 7 是因为 7 是奇数)

Ceiling and Floor

Ceiling 是不管啥都 round up

5.1 – 5.9 = 6

-5.1 – -5.9 = -5 (往 position 走是 up)

Floor 是不管啥都 round down

5.1 – 5.9 = 5

5.1 – 5.9 = -6

C# 的 rounding

参考: C#中Math.Round四舍五入的用法详解

C# 默认的 rounding 是 Round to Even, 大部分 bank 喜欢的.

另外它还支持, Away From Zero 和 Towards Zero

ToNegativeInfinity 和 ToPositiveInfinity 我倒是不清楚是什么来的.

big.js 的 rounding

big.js 只支持 Round to Even, Away From Zero, Ceiling 和 Floor,默认是 1。

如果需要支持更多 rounding 可以使用 bignumber.jsdecimal.js。它们都是姐妹版本来的。

Rounding的更多相关文章

  1. hdu 1036 (I/O routines, fgets, sscanf, %02d, rounding, atoi, strtol) 分类: hdoj 2015-06-16 19:37 32人阅读 评论(0) 收藏

    thanks to http://stackoverflow.com/questions/2144459/using-scanf-to-accept-user-input and http://sta ...

  2. Codeforces Round #204 (Div. 2)->C. Jeff and Rounding

    C. Jeff and Rounding time limit per test 1 second memory limit per test 256 megabytes input standard ...

  3. CodeForces 352C. Jeff and Rounding(贪心)

    C. Jeff and Rounding time limit per test:  1 second memory limit per test: 256 megabytes input: stan ...

  4. Codeforces Round #451 (Div. 2)-898A. Rounding 898B.Proper Nutrition 898C.Phone Numbers(大佬容器套容器) 898D.Alarm Clock(超时了,待补坑)(贪心的思想)

    A. Rounding time limit per test 1 second memory limit per test 256 megabytes input standard input ou ...

  5. SAP MM 物料主数据MRP2 视图Rounding Value字段

    SAP MM 物料主数据MRP2 视图Rounding Value字段 如下物料号,MRP2视图中,维护了rounding value字段值为50. MRP type :PD Lot size:EX ...

  6. python decimal.quantize()参数rounding的各参数解释与行为

    我最开始其实是由于疑惑ROUND_FLOOR和 ROUND_DOWN的表现区别才看了一波文档,但是感觉拉出一票以前没有留意过的东西. 贴一个decimal文档里面的解释: ROUND_CEILING ...

  7. CF&&CC百套计划3 Codeforces Round #204 (Div. 1) A. Jeff and Rounding

    http://codeforces.com/problemset/problem/351/A 题意: 2*n个数,选n个数上取整,n个数下取整 最小化 abs(取整之后数的和-原来数的和) 先使所有的 ...

  8. CF898A Rounding

    题意翻译 给你一个数字,将其“四舍六入”,末尾为5舍去或进位都可,求最终的数字. 题目描述 Vasya has a non-negative integer n n n . He wants to r ...

  9. Codeforces 898 A. Rounding

      A. Rounding   time limit per test 1 second memory limit per test 256 megabytes input standard inpu ...

  10. Codeforces Round #451 (Div. 2) A. Rounding【分类讨论/易错】

    A. Rounding time limit per test 1 second memory limit per test 256 megabytes input standard input ou ...

随机推荐

  1. TypeScript 学习笔记 — 接口的使用(六)

    目录 一.函数接口参数 二.函数类型接口 三.函数混合类型 四.对象接口(最常用) 确定属性 可选属性 任意属性 只读属性 可索引接口 索引访问符 类接口 接口继承 构造函数类型 type 和 int ...

  2. AT_arc041_b 题解

    洛谷链接&Atcoder 链接 本篇题解为此题较简单做法及较少码量,并且码风优良,请放心阅读. 题目简述 给定一个 \(N \times M\) 的矩阵,此矩阵的每一个元素都向上.下.左.右 ...

  3. C# WinForm自制项目模板入坑记

    1. 创建模板配置 1.1 在项目目录中创建.template.config文件夹 1.2 创建一个名为"template.json" 的新文件 { "author&qu ...

  4. 基于vue.js 移动可视化,拖拽生成H5系统

    效果预览 功能简介 基于Vue.js(2.0)版本开发的,通过拖拽可视化的操作,生成H5的页面,类似易企秀的工具,前端展示页面运用了之前发布的 vue-animate-fullpage 插件进行动画渲 ...

  5. 业务场景---Token无感刷新

    业务场景描述 假设用户正在填写一个复杂的表单,由于表单内容繁多,用户花费了很长时间才填完.这时,如果Token已经过期,系统会让用户重新登录,这种体验显然是非常糟糕的.为了避免这种情况,我们需要在To ...

  6. SpringSecurity:hasAuthority与自定义权限校验

    springsecurity中有两种权限控制方法 1.基于注解 @PreAuthorize("hasAuthority('syst:add')") 他的作用是在controller ...

  7. ORACLE PL/SQL 对象、表数据对比功能存储过程简单实现

    最近帮忙跟进个oracle11g upgrade 升级到19c 的项目,由于业主方不太熟悉oracle upgrade相关升级流程,以及升级影响范围相关的事项,担心应用停机升级以后会导致数据库保存的业 ...

  8. 再测python3.13a —— python3.13是否移除了GIL的限制(续)

    前文: python3.13是否移除了GIL的限制 x86_64 ubuntu22.04环境下编译版本python3.13.0 alpha 0源码--python3.13.0 alpha 0的源码编译 ...

  9. Git 使用中的一些例子

    本文紧接前文: .gitignore文件的使用方法(学习总结版)-- .gitignore 文件的配合用法 ============================================= ...

  10. MD5签名生成,字典排序,实际生产

    1.背景 作用:防止请求参数篡改,限制请求时效性: 常用方式:md5签名 关键:签名Key 常用签名原串排列:字母顺序.key1=value1&key2=value2....key (注意:签 ...