基本数据类型



浮点数存在误差

浮点数有一个需要特别注意的点就是浮点数是有误差的,比如以下这段代码你觉得输出的什么结果:

public class Demo {
public static void main(String[] args) {
System.out.println(0.1+0.2 == 0.3);//输出false
}
}

这段代码输出值是false,之所以是这个结果那是因为浮点数是存在误差的,也就yi是说0.1在计算机中存储时不是精确的0.1,而有可能是0.1000000001,或者其他数,而0.2或0.3也是如此,所以0.1+0.2和0.3在计算机中是不相等的。

因为浮点数存在这个特性,所以我们在编程中间要尽量避免用浮点数进行比较。

如果非要用浮点数进行比较的话,那可以使用下面这个方法:

public class Demo {
public static void main(String[] args) {
float n = (float)1e-6;//表示10的-6次方
System.out.println(0.1+0.2 - 0.3 < n);//输出true
}
}

以上代码的输出值是true,该方法的原理是如果两个数相差足够小,小到可以忽略不记的话,这里的界限设置是10的-6次方,那证明比较的这两个数可以认为是相等的,此方法只能在所表示的浮点数的小数点后的位数不是很多的时候使用。

接下来我们再来看一种极端的情况,代码如下:

public class Demo {
public static void main(String[] args) {
System.out.println(0.30000000000000001 == 0.3);//输出true
}
}

以上的代码输出true,但其实我们肉眼可以很直观的看出,这两个数虽然很接近,但他们绝对不相等,像这种极端的数我们是无法用上面的方法进行比较的,所以还是记住这句话:尽量避免对浮点数进行比较。


BigDecimal类

我们既然知道了浮点数是存在误差的,所以在数据本身需要准确精度存储时,我们是一定不会使用float和double的,比如金钱数额的存储。这时我们通常使用BigDecimal类进行存储,它是一个可以存储准确浮点数的类。


  1. BigDecimal类的定义:
   BigDecimal bd = new BigDecimal("123.456");
  1. BigDecimal使用scale()表示小数位数,例如:
   BigDecimal d1 = new BigDecimal("987.65");
BigDecimal d2 = new BigDecimal("987.6500");
BigDecimal d3 = new BigDecimal("98765400");
System.out.println(d1.scale()); // 2,表示两位小数
System.out.println(d2.scale()); // 4
System.out.println(d3.scale()); // 0
  1. BigDecimal中的stripTrailingZeros()方法,可以将BigDecimal格式化为去掉数值末尾0的相等的数:
   BigDecimal d1 = new BigDecimal("123.4500");
BigDecimal d2 = d1.stripTrailingZeros();
System.out.println(d1+" "+d1.scale()); // 123.4500 4
System.out.println(d2+" "+d2.scale()); // 123.45 2,因为去掉了00 BigDecimal d3 = new BigDecimal("1234500");
BigDecimal d4 = d3.stripTrailingZeros();
System.out.println(d3+" "+d3.scale()); // 1234500 0
System.out.println(d4+" "+d4.scale()); // 1.2345E+6 -2

BigDecimalscale()返回负数,例如,-2,表示这个数是个整数,并且末尾有2个0。以上的d4就是如此,去掉0后数值没变,只是换了一种表示方法。

  1. BigDecimal可以设置它的scale,如果精度比原始值低,那么按照指定的方法进行四舍五入或者直接截断:
   import java.math.BigDecimal;
import java.math.RoundingMode; public class Demo {
public static void main(String[] args) {
BigDecimal d1 = new BigDecimal("123.456789");
BigDecimal d2 = d1.setScale(4, RoundingMode.HALF_UP); // 四舍五入,123.4568
BigDecimal d3 = d1.setScale(4, RoundingMode.DOWN); // 直接截断,123.4567
System.out.println(d2);//123.4568
System.out.println(d3);//123.4567
}
}
  1. BigDecimal的加、减、乘、除:
   import java.math.BigDecimal;

   public class Demo {
public static void main(String[] args) {
BigDecimal d1 = new BigDecimal("124.44");
BigDecimal d2 = new BigDecimal("12.2");
System.out.println(d1.add(d2));//d1+d2 136.64
System.out.println(d1.subtract(d2));//d1-d2 112.24
System.out.println(d1.multiply(d2));//d1*d2 1518.168
System.out.println(d1.divide(d2));//d1/d2 10.2
}
}
  1. BigDecimal在做加、减、乘时,精度不会丢失,但是做除法时,存在无法除尽的情况,这时就必须指定精度以及如何进行截断:
   import java.math.BigDecimal;
import java.math.RoundingMode; public class Demo {
public static void main(String[] args) {
BigDecimal d1 = new BigDecimal("123.456");
BigDecimal d2 = new BigDecimal("23.456789");
BigDecimal d3 = d1.divide(d2, 10, RoundingMode.HALF_UP); // 保留10位小数并四舍五入
BigDecimal d4 = d1.divide(d2); // 报错:ArithmeticException,因为除不尽
}
}
  1. 可以对BigDecimal做除法的同时求其余数:
   import java.math.BigDecimal;
public class Demo {
public static void main(String[] args) {
BigDecimal n = new BigDecimal("22.444");
BigDecimal m = new BigDecimal("0.23");
BigDecimal[] dr = n.divideAndRemainder(m);
System.out.println(dr[0]); // 97.0
System.out.println(dr[1]); // 0.134
}
}
  1. 调用divideAndRemainder()方法时,返回的数组包含两个BigDecimal,第一个是商,第二个是余数,商总是整数,余数不会大于余数,我们可以利用该方法判断两个BigDecimal是否是整数倍数:
   BigDecimal n = new BigDecimal("12.34");
BigDecimal m = new BigDecimal("0.12");
BigDecimal[] dr = n.divideAndRemainder(m);
if (dr[1].signum() == 0) {//signum()会基于此BigDecimal返回三个值-1、1、0,分别对应为该数小于0,大于0和等于0
// n是m的整数倍
}
  1. 比较两个BigDecimal的值是否相等时,要注意的是,使用equals()方法不但要求两个BigDecimal的值相等,还要求它们的scale()相等:
   BigDecimal d1 = new BigDecimal("123.45");
BigDecimal d2 = new BigDecimal("123.45000");
System.out.println(d1.equals(d2)); // false,因为scale不同
System.out.println(d1.equals(d2.stripTrailingZeros())); // true,因为d2去除尾部0后scale变为2,与d1相同

注意:使用compareTo()来比较两个BigDecimal的值,不要用equals()

  1. 使用compareTo()方法来比较两数大小,它根据两个值的大小分别返回-1、1和0,分别表示小于、大于和等于。
    import java.math.BigDecimal;
public class Demo {
public static void main(String[] args) {
BigDecimal d1 = new BigDecimal("123.45");
BigDecimal d2 = new BigDecimal("123.45000");
BigDecimal d3 = new BigDecimal("123.40");
System.out.println(d1.compareTo(d2)); // 0
System.out.println(d1.compareTo(d3));// 1
System.out.println(d3.compareTo(d2));// -1
}
}
  1. 查看BigDecimal的源码,可以发现一个BigDecimal是通过一个BigInteger和一个scale来表示的,即BigInteger表示一个完整的整数,而scale表示小数位数:
    public class BigDecimal extends Number implements Comparable<BigDecimal> {
private final BigInteger intVal;
private final int scale;
}


更多精彩内容敬请关注微信公众号:【平兄聊Java】

Java中浮点数的坑的更多相关文章

  1. java中浮点数的比较(double, float)(转)

    问题的提出:如果我们编译运行下面这个程序会看到什么? public static void main(String args[]){ System.out.println(0.05+0.01); Sy ...

  2. 计算价格, java中浮点数精度丢失的解决方案

    计算价格, java中浮点数精度丢失的解决方案

  3. java中的那些坑

    最近准备换工作,为了少让人家鄙视,就要狠狠地藐视这些面试题目.找了本电子书,发了有好多坑,都是特别简单,但是很少有人做对的题目.面对这样的题目,我却有一种兴奋的感觉,也许是因为一直做着重复的工作没有新 ...

  4. Java 中浮点数---------BigDecimal和double(初探)

    为什么要使用 bigdecimal? 借用<Effactive Java>这本书中的话,float和double类型的主要设计目标是为了科学计算和工程计算.他们执行二进制浮点运算,这是为了 ...

  5. Java中浮点数能连续精确表示整数的范围

    转自http://blog.csdn.net/seizef/article/details/5571783#ref_1,有删改. 先简单介绍一下浮点数在计算机中的组成,在Java中采用的浮点数表示法是 ...

  6. Java中浮点数的精度问题 【转】

    当您在计算Money的时候,请看好了!!!要不损失了别后悔!!! 现象1: public static void main(String[] args) { System.out.println(0. ...

  7. java 中==符号的坑

    在某技术群看到这样的一个面试题目: 这是一个4年经验的java 从业者的答案. 你的答案是什么呢? 正确的答案是true. 为什么? 其实当使用String a="a"+" ...

  8. Java中浮点数的基础知识

    偶然查看Math.round的JDK public static int round(float a) { if (a != 0x1.fffffep-2f) // greatest float val ...

  9. java第二周的学习知识4(对原码,补码,反码和java中浮点数计算不准确的总结)

    原码:一个正数,转换为二进制位就是这个正数的原码.负数的绝对值转换成二进制位然后在高位补1就是这个负数的原码. 但是原码有几个缺点,零分两种 +0 和 -0 .很奇怪是吧!还有,在进行不同符号的加法运 ...

随机推荐

  1. 基于autofac的属性注入

    基于autofac的属性注入 什么是属性注入 在了解属性注入之前,要先了解一下DI(Dependency Injection),即依赖注入.在ASP.NET Core里自带了一个IOC容器,而且程序支 ...

  2. 【java框架】SpringBoot(5)--SpringBoot整合分布式Dubbo+Zookeeper

    1.理论概述 1.1.分布式 分布式系统是若干独立计算机的集合,这些计算机对于用户来讲就像单个系统. 由多个系统集成成一个整体,提供多个功能,组合成一个板块,用户在使用上看起来是一个服务.(比如淘宝网 ...

  3. 17. vue-route详细介绍

    前后端路由的来历 前端如何实现页面跳转但是不刷新? 了解hash和history两种方法 vue-router基本使用 安装vue-router 搭建vue-router框架的步骤 vue-route ...

  4. 我的xshell配色方案,绿色/护眼/留存/备份

    [mycolor] text(bold)=e9e9e9 magenta(bold)=ff00ff text=00ff80 white(bold)=fdf6e3 green=80ff00 red(bol ...

  5. [.net] 关于Exception的几点思考和在项目中的使用(三)

    本文链接: https://www.cnblogs.com/hubaijia/p/about-exceptions-3.html 系列文章: 关于Exception的几点思考和在项目中的使用(一) 关 ...

  6. 带你全面认识CMMI V2.0(四)——管理 赋能

    风险和机会管理(PSK)包括:识别威胁和机会:评估其发生和影响的可能性:减轻潜在威胁:利用潜在机会目的:识别,记录,分析和管理潜在的风险或机会.价值:减轻不利影响或利用积极影响来增加实现目标的可能性. ...

  7. vs2019新建数据库后插入中文变问号

    在使用VS创建了数据库后如果直接给字符类型插入中文内容的话查询结果插入的中文会以"?"的格式展现. 原因是因为默认创建的数据库的排序类型为拉丁文不支持中文. 所以需要讲这个排序的字 ...

  8. Dynamics CRM制作报表的时候让用户可以用自己的权限浏览数据

    我们做SSRS报表的时候最头疼的问题就是用Sql查出来的数据都是全部数据没有做权限过滤,导致不同用户看到的数据是一样的. 确实Dynamics CRM产品的数据库时有对这个做处理的,其中每个实体都会有 ...

  9. 呵呵,Semaphore,就这?

    这是并发线程工具类的第二篇文章,在第一篇中,我们分析过 CountDownLatch 的相关内容,你可以参考 一文搞懂 CountDownLatch 用法和源码! 那么本篇文章我们继续来和你聊聊并发工 ...

  10. 数据结构与算法-江西师范大学865(针对考研or面试)

    可以加我微信chenyoudea免费要江西师范大学865资料全套pdf 目录 第一篇 数据结构与算法(针对考研or面试) 第二篇 真题演练 第三篇 复试 第四篇 推荐阅读 第一篇 数据结构与算法(针对 ...