探究背景

涉及诸如float或者double这两种浮点型数据的处理时,偶尔总会有一些怪怪的现象,不知道大家注意过没,举几个常见的栗子:

条件判断超预期

System.out.println( 1f == 0.9999999f );   // 打印:false
System.out.println( 1f == 0.99999999f ); // 打印:true

数据转换超预期

float f = 1.1f;
double d = (double) f;
System.out.println(f); // 打印:1.1
System.out.println(d); // 打印:1.100000023841858

基本运算超预期

System.out.println( 0.2 + 0.7 );
// 打印:0.8999999999999999 纳尼?

数据自增超预期

float f1 = 8455263f;
for (int i = 0; i < 10; i++) {
System.out.println(f1);
f1++;
}
// 打印:8455263.0
// 打印:8455264.0
// 打印:8455265.0
// 打印:8455266.0
// 打印:8455267.0
// 打印:8455268.0
// 打印:8455269.0
// 打印:8455270.0
// 打印:8455271.0
// 打印:8455272.0 float f2 = 84552631f;
for (int i = 0; i < 10; i++) {
System.out.println(f2);
f2++;
}
// 打印:8.4552632E7 纳尼?不是 +1了吗?
// 打印:8.4552632E7 纳尼?不是 +1了吗?
// 打印:8.4552632E7 纳尼?不是 +1了吗?
// 打印:8.4552632E7 纳尼?不是 +1了吗?
// 打印:8.4552632E7 纳尼?不是 +1了吗?
// 打印:8.4552632E7 纳尼?不是 +1了吗?
// 打印:8.4552632E7 纳尼?不是 +1了吗?
// 打印:8.4552632E7 纳尼?不是 +1了吗?
// 打印:8.4552632E7 纳尼?不是 +1了吗?
// 打印:8.4552632E7 纳尼?不是 +1了吗?

所以说用浮点数(包括double和float)处理问题有非常多隐晦的坑在等着咱们!

分析原因出处

我们就以第一个典型现象为例来分析一下:

System.out.println( 1f == 0.99999999f );

直接用代码去比较1和0.99999999,居然打印出true!这说明了什么?这说明了计算机压根区分不出来这两个数。这是为什么呢?

深入分析

输入的这两个浮点数只是我们人类肉眼所看到的具体数值,是我们通常所理解的十进制数,但是计算机底层在计算时可不是按照十进制来计算的,学过计算机组成原理的人都知道,计算机底层最终都是基于像010100100100110011011这种0、1二进制来完成的。

将这两个十进制浮点数转化到二进制,直接给出结果(把它转换到IEEE 754 Single precision 32-bit,也就float类型对应的精度)

1.0(十进制)

00111111 10000000 00000000 00000000(二进制)

0x3F800000(十六进制)
0.99999999(十进制)

00111111 10000000 00000000 00000000(二进制)

0x3F800000(十六进制)

这两个十进制浮点数的底层二进制表示是一样的,怪不得==的判断结果返回true!

但是1f == 0.9999999f返回的结果是符合预期的,打印false,我们也把它们转换到二进制模式下看看情况:

1.0(十进制)

00111111 10000000 00000000 00000000(二进制)

0x3F800000(十六进制) 0.9999999(十进制)

00111111 01111111 11111111 11111110(二进制)

0x3F7FFFFE(十六进制)

它俩的二进制数字表示确实不一样,这是理所应当的结果。

那么为什么0.99999999的底层二进制表示竟然是:00111111 10000000 00000000 00000000呢?

这不明明是浮点数1.0的二进制表示吗?主要要分一下浮点数的精度问题了。

浮点数的精度问题!

学过 《计算机组成原理》 这门课的小伙伴应该都知道,浮点数在计算机中的存储方式遵循IEEE 754 浮点数计数标准,可以用科学计数法表示为:

只要给出:符号(S)、阶码部分(E)、尾数部分(M) 这三个维度的信息,一个浮点数的表示就完全确定下来了,所以float和double这两种浮点数在内存中的存储结构如下所示:

符号部分(S)

0-正 1-负

阶码部分(E)(指数部分):

对于float型浮点数,指数部分8位,考虑可正可负,因此可以表示的指数范围为-127 ~ 128

对于double型浮点数,指数部分11位,考虑可正可负,因此可以表示的指数范围为-1023 ~ 1024

尾数部分(M):

浮点数的精度是由尾数的位数来决定的:

  • 对于float型浮点数,尾数部分23位,换算成十进制就是 2^23=8388608,所以十进制精度只有6 ~ 7位;
  • 对于double型浮点数,尾数部分52位,换算成十进制就是 2^52 = 4503599627370496,所以十进制精度只有15 ~ 16位

对于上面的数值0.99999999f,很明显已经超过了float型浮点数据的精度范围,出问题也是在所难免的。

精度问题如何解决

涉及商品金额、交易值、货币计算等这种对精度要求很高的场景该怎么办呢?

方法一:用字符串或者数组解决多位数问题

方法二:Java的大数类是个好东西

JDK早已为我们考虑到了浮点数的计算精度问题,因此提供了专用于高精度数值计算的大数类来方便我们使用。Java的大数类位于java.math包下:可以看到,常用的BigInteger 和 BigDecimal就是处理高精度数值计算的利器。

BigDecimal num3 = new BigDecimal( Double.toString( 1.0f ) );
BigDecimal num4 = new BigDecimal( Double.toString( 0.99999999f ) );
System.out.println( num3 == num4 ); // 打印 false
BigDecimal num1 = new BigDecimal( Double.toString( 0.2 ) );
BigDecimal num2 = new BigDecimal( Double.toString( 0.7 ) );
// 加
System.out.println( num1.add( num2 ) ); // 打印:0.9
// 减
System.out.println( num2.subtract( num1 ) ); // 打印:0.5
// 乘
System.out.println( num1.multiply( num2 ) ); // 打印:0.14
// 除
System.out.println( num2.divide( num1 ) ); // 打印:3.5

当然了,像BigInteger 和 BigDecimal这种大数类的运算效率肯定是不如原生类型效率高,代价还是比较昂贵的,是否选用需要根据实际场景来评估。

实际案例场景

使用Double计算问题

如果需要记录一个16位整数且保留两位小数点的金额数值,于是使用Double类型来接收金额,但在最后进行金额总和统计后,得出的金额数值小数点后面多出了小数位,且多出的小数位不为0,简直要疯了,每一笔的金额都是两位小数点,但最后统计的总金额数值却是多位小数点的。

double和float类型主要用于科学计算与工程计算而设计的,用于二进制浮点计算,但我们在程序中写的时候往往都是写的10进制,而这个10进制的小数,对于计算机内部而言,是无法用二进制的小数来精确表达出来的,只能表示出一个“不精确性”或者说“近似性”的结果,而用这个近似性的结果进行计算得出的数据,也往往与我们心中想要的数据不一样,所以如果是想进行金额或其他类似的浮点型数值计算,不要使用double或float,推荐大家使用BigDecimal来进行运算。

BigDecimal的工具使用

BigDecimal是Java在java.math包中提供的API类,它可以用来对超过16位有效位的数进行精确的运算和处理。

BigDecimal创建对象

BigDecimal提高了四个构造方法来创建对象:

  • 创建整数类型的对象:new BigDecimal(int);
  • 创建双精度数值类型的对象:new BigDecimal(double);
  • 创建长整数类型的对象:new BigDecimal(long);
  • 创建以字符串表示的数值的字符串类型对象:new BigDecimal(String);

四个构造方法就是四种创建对象的方式,但推荐使用第1、3、4种方式,而不推荐使用第2种方式,因为前面说了double无法精确的表示10进制的小数,只能近似性的表示,这就具有一定的不可预知性了,如需创建浮点类型的BigDecimal对象,可以使用new BigDecimal(String)来创建。

BigDecimal的运算

BigDecimal对于数值的运算,提供了专用的方法:

  • BigDecimal.add(BigDecimal)  BigDecimal对象的相加方法,返回BigDecimal对象
  • BigDecimal.subtract(BigDecimal)  BigDecimal对象的相减方法,返回BigDecimal对象
  • BigDecimal.multiply(BigDecimal)  BigDecimal对象的相乘方法,返回BigDecimal对象
  • BigDecimal.divide(BigDecimal)  BigDecimal对象的相除方法,返回BigDecimal对象

注意:BigDecimal的对象都是不可变的,它的每一次四则运算,都会产生并返回新的对象,所以在做加减乘除运算时要用新的对象来保存操作后的值。

BigDecimal比较大小

BigDecimal提供了compareTo(BigDecimal)来进行数值的大小比较,compareTo返回值为int类型:-1,0,1;

例如:bigdemical_1.compareTo(bigdemical_2)

  • 返回-1:表示bigdemical_1小于bigdemical_2;
  • 返回0,表示bigdemical_1等于bigdemical_2;
  • 返回1,表示bigdemical_1大于bigdemical_2;

BigDecimal还有其他一些东西,例如,BigDecimal的格式化、BigDecimal的输出类型转换、BigDecimal的异常情况处理及注意事项等等。

☕【Java实战系列】「技术盲区」Double与Float的坑与解决办法以及BigDecimal的取而代之!的更多相关文章

  1. ☕【Java深层系列】「技术盲区」让我们一起去挑战一下如何读取一个较大或者超大的文件数据!

    Java的文件IO流处理方式 Java MappedByteBuffer & FileChannel & RandomAccessFile & FileXXXputStream ...

  2. ☕【Java深层系列】「技术盲区」让我们一起完全吃透针对于时间和日期相关的API指南

    技术简介 java中的日期处理一直是个问题,没有很好的方式去处理,所以才有第三方框架的位置比如joda.文章主要对java日期处理的详解,用1.8可以不用joda. 时间概念 首先我们对一些基本的概念 ...

  3. 【微信小程序】开发实战 之 「视图层」WXML & WXSS 全解析

    在<微信小程序开发实战 之 「配置项」与「逻辑层」>中我们详细阐述了小程序开发的程序和页面各配置项与逻辑层的基础知识.下面我们继续解析小程序开发框架中的「视图层」部分.学习完这两篇文章的基 ...

  4. Java已五年1—二本物理到前端实习生到Java程序员「回忆贴」

    关键词:郑州 二本 物理专业 先前端实习生 后Java程序员 更多文章收录在码云仓库:https://gitee.com/bingqilinpeishenme/Java-Tutorials 前言 没有 ...

  5. StreamSets学习系列之启动StreamSets时出现Caused by: java.security.AccessControlException: access denied ("java.util.PropertyPermission" "test.to.ensure.security.is.configured.correctly" "read")错误的解决办法

    不多说,直接上干货! 问题详情 [hadoop@master streamsets-datacollector-]$ ./bin/streamsets dc Java 1.8 detected; ad ...

  6. Java中读取txt文件中中文字符时,出现乱码的解决办法

    这是我写的一个Java课程作业时,遇到的问题. 问题描述: 我要实现的就是将txt文件中的内容按一定格式读取出来后,存放在相应的数组. 我刚开始运行时发现,英文可以实现,但是中文字符就是各种乱码. 最 ...

  7. 安装JDK出现错误:-bash: /usr/java/jdk1.7.0_71/bin/java: /lib/ld-linux.so.2: bad ELF interpreter: No such file or directory解决办法

    1.错误描述:安装好jdk之后,通过java -version,javac,java等命令测试是否安装成功时出现错误-bash: /usr/java/jdk1.7.0_71/bin/java: /li ...

  8. java开发过程中,报错Dangling meta character '*' near index 0,解决办法

    1.split方法转化字符串为数组: String[] strPicArr = map.get("hw_pic").toString().split("*"); ...

  9. java运行显示“找不到或无法加载主类”的解决办法(linux)

    要是配置文件的路径问题.打开终端,输入vi ~/.bashrc添加如下代码即可. # set Java environmentJAVA_HOME=/usr/local/java/jdk1.8.0PAT ...

随机推荐

  1. 随笔:关于.net core单文件AOT编译

    .Net Core单文件发布已经很流畅了(vs已支持图形化操作发布). 但类似Go或者Graalvm JDK的完全事前编译为本地机器码的红能功能,还未发布于.net 6特性中,还处于实验室中. 另外, ...

  2. [NOI Online #3 提高组] 魔法值

    现在只会\(O(qn^3log)\)的\(40pts\)做法,鸽了. 反正就是预处理之后,去掉一个\(n\). 我预处理了,没去\(n\),hhhh,成功减少了一半的常数.

  3. Codeforces 917C - Pollywog(状压 dp+矩阵优化)

    UPD 2021.4.9:修了个 typo,为啥写题解老出现 typo 啊( Codeforces 题目传送门 & 洛谷题目传送门 这是一道 *2900 的 D1C,不过还是被我想出来了 u1 ...

  4. [ARC101C] Ribbons on Tree

    神仙的容斥题与神仙的树形DP题. 首先搞一个指数级的做法:求总的.能够覆盖每一条边的方案数,通过容斥可以得到\(\text{ans}=\sum\limits_E{(-1)^{|E|}F(E)}\).其 ...

  5. miRAN 分析以及mRNA分析

    一些参考资料 http://www.360doc.com/content/17/0528/22/19913717_658086490.shtml https://www.cnblogs.com/tri ...

  6. R语言与医学统计图形【8】颜色的选取

    R语言基础绘图系统 基础绘图包之低级绘图函数--内置颜色. 1.内置颜色选取 功能657种内置颜色.colors() 调色板函数:palette(), rgb(), rainbow(). palett ...

  7. perl 转置矩阵

    这里提供一个转置矩阵的perl脚本,R语言中的t()函数同样也能实现转置 1 use strict; 2 3 open A,"$ARGV[0]"; 4 5 my %ha; 6 my ...

  8. mysql—MySQL数据库中10位或13位时间戳和标准时间相互转换

    1.字符串时间转10位时间戳 select FLOOR(unix_timestamp(create_time)) from page; #create_time为字段名 page为表名 eg:sele ...

  9. Django结合Echarts在前端展示数据

    前言 最近在用Django写UI自动化测试平台,基本快要弄完了,但是首页只有项目列表展示,一直感觉很空旷,所以想把一些关键数据在首页展示出来. 这时就想到利用Echarts这个开源项目,但是Djang ...

  10. springcloud - alibaba快速上手 - 更新完毕

    1.简单对比一下springcloud与springcloud-alibaba 2.准备知识 官网:https://nacos.io/zh-cn/ 查看cloud和springboot的对应关系 ht ...