来自教材《计算机组成原理》p16

float：6--7位

double：15--16位

意思就是double类型的数据，你确实能表达出很大的数字，但是其只有15位是精确的。

1、计算机中，因为需要计算电子的质量9*10^(-28)g和太阳的质量2*10^(33)g这样的大数据，需要引入一种新的方式来存取数据。

ps：一开始的方式只有定点数的表示方法，只能存纯小数或则纯整数，范围只有2^n

2、把32位的空间（float）分割成3部分，S、E、M表示符号位、阶码、尾数，分别分配1位、8位、23位

其中阶码代表数值的范围，尾数代表数值的精度。

阶码：8位，不用符号位，因为用了阶码的形式存取，也就是本来要表示-127---127的指数，我把他们同时加上127，那么新的数值就是0---254，这个时候，每次读取完后，真实值就是x = E - 127，基准数base = 2，也就是底数 = 2

尾数：用来存取浮点数，因为任何一个数都能表示成2^e.M的形式，这里就是存取M，所以尾数能表达多少，有效位就是多少

3、小数的标准形式：1.xxxx，

4、二进制运算：111.01011 * 2^4 = 1110101.1，相当于右移了四位

关于float和double类型能表示的数据范围和精度分析的更多相关文章

  1. 不要在精确计算中使用float和double类型

    http://blog.csdn.net/androiddevelop/article/details/8478879 一  问题描述 float和double类型不能用于精确计算,其主要目的是为了科 ...

  2. Effective Java 第三版——60. 需要精确的结果时避免使用float和double类型

    Tips 书中的源代码地址:https://github.com/jbloch/effective-java-3e-source-code 注意,书中的有些代码里方法是基于Java 9 API中的,所 ...

  3. Sql的decimal、float、double类型的区别

    三者的区别介绍 float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位) double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E ...

  4. 浮点型 float和double类型的内存结构和精度问题

    首先引用一个例子在java中可能你会遇到这样的问题: 例:0.99999999f==1f //true 0.9999999f==1f //false 这是超出精度造成的,为了知道为什么会造成这样的问题 ...

  5. float和double类型的存储方式

    Float double 类型在计算机的存储方式 计算机中只认识10的二进制数,那么该如何存储小数呢? 那么我们先看Floa类型: Float在计算机(32位)中是4个字节的,具体地:第一位为符号位0 ...

  6. 对于c语言int类型和float,以及double类型表示范围的计算

    首先说一下我原来错误的认识 int是32个bit, 如果我们把第一位理解为符号位,那么很显然int的范围是-(2^31-1)~2^31-1 但是实际上我们都知道int的最小值是-2^31次.. 为什么 ...

  7. 字符串转换成float和double类型

    double strtod(const char *nptr, char **endptr); float strtof(const char *nptr, char **endptr); long ...

  8. float 与 double 类型区别

    https://www.runoob.com/w3cnote/float-and-double-different.html float 单精度浮点数在机内占 4 个字节,用 32 位二进制描述. d ...

  9. Java - Float与Double类型比较

    https://blog.csdn.net/wcxiaoych/article/details/42806313

随机推荐

  1. mac下配置java运行环境

    1. oracle官网下载java se jdk地址 http://www.oracle.com/technetwork/java/javase/downloads/jdk9-downloads-38 ...

  2. poj1065 Wooden Sticks[LIS or 贪心]

    地址戳这.N根木棍待处理,每根有个长x宽y,处理第一根花费1代价,之后当处理到的后一根比前一根长或者宽要大时都要重新花费1代价,否则不花费.求最小花费代价.多组数据,N<=5000 本来是奔着贪 ...

  3. 「NOIP2013」「LuoguP1967」货车运输（最大生成树 倍增 LCA

    题目描述 AA国有nn座城市,编号从 11到nn,城市之间有 mm 条双向道路.每一条道路对车辆都有重量限制,简称限重.现在有 qq 辆货车在运输货物, 司机们想知道每辆车在不超过车辆限重的情况下,最 ...

  4. mongodb入门-关系型RDMS数据库对比及适用场景

    引言 最近工作接触到了mongodb数据库,记录下个人对其的理解和使用情况.虽然mongodb 出来的时间已经不短,但是相对mysql mssql oracle 这样传统的关系型数据库来说还是比较年轻 ...

  5. 51Nod 1362 搬箱子 —— 组合数(非质数取模) (差分TLE)

    题目:http://www.51nod.com/Challenge/Problem.html#!#problemId=1362 首先,\( f[i][j] \) 是一个 \( i \) 次多项式: 如 ...

  6. IoT：目录

    ylbtech-IoT:目录 1.返回顶部   2.返回顶部   3.返回顶部   4.返回顶部   5.返回顶部     6.返回顶部   作者:ylbtech出处:http://ylbtech.c ...

  7. selenium+python中，框架中，怎么返回上一个菜单

    /退回上一级表单 driver.switchTo().defaultContent();

  8. Java类加载原理解析（转）

    1 基本信息 每个开发人员对java.lang.ClassNotFoundExcetpion这个异常肯定都不陌生,这背后就涉及到了java技术体系中的类加载.Java的类加载机制是技术体系中比较核心的 ...

  9. eclipse必备快捷键

    1.[ Ctrl + Shift+ P  ],查找括号的开始和闭合 2.[ALT+/],这个快捷键应该没有人不知道 3.[Ctrl+O],显示类中方法和属性的大纲,能快速定位类的方法和属性,在查找Bu ...

  10. XXX.h:143: error: expected declaration specifiers or ‘...’ before ‘YYY’

    出现上面头文件错误,原因是定义YYY的头和XXX.h互相包含了