3.14 + 1e10 - 1e10 = 0 ? ——浮点数的本质
3.14 + 1e10 - 1e10 = 0 ? ——浮点数的本质
我们先看这样一个例子:
#include <iostream>
int main(int argc, char **argv)
{
float a = 3.14;
float b = 1e10;
std::cout << a << " " << b << std::endl;
std::cout << (a+b)-b << std::endl;
std::cout << a+(b-b) << std::endl;
return 0;
}
这个程序的输出是:

我们可以看到 (a+b)-b 得到了0,这个结果是有些匪夷所思的。为了解答这个问题,我们需要理解浮点数在计算机中的表示方法。
浮点数的表示——IEEE754
IEEE浮点标准使用\(V = (-1)^s \times M \times 2^E\)来表示一个数,其中\(s\)是一个符号位,取0或者1,用来确定实数的符号,\(M\)是尾数,\(E\)是阶码,通常用移码表示。
对于单精度浮点数,符号位为1位,阶码为8位,尾数为23位。对于双精度浮点数,符号位为1位,阶码为11位,尾数为52位。
举个例子,对于一个实数0.675,其二进制表示为0.101,我们可以看做\((-1)^0 \times 1.01 \times 2^{-1}\),因此阶码\(E\)的移码表示是10000000,对于尾数,暗含一个1,因此对于尾数的表示是01000000000000000000000,空余位补0,综上可以得到0.625的单精度浮点数表示:

这里帮大家回顾一下浮点数的表示,更多细节可以查阅相关资料。
现在我们就可以回答上面的问题了:
\]
此时1e10二进制表示的尾数部分是高于23位的,因此会执行舍入操作,因此尾数\(M\)=00101010000001011111001。
综上,1e10的单精度浮点数表示是: 0 101000 00101010000001011111001。
而对于3.14则有:\(3.14 \approx 11.0010001111010111000010100011110_2 =1.10010001111010111000010100011110_2 \times 2^1\)
为了实现3.14+1e20,我们需要调整3.14的阶码,使得二者的阶码相同
因此此时有:
\\ 0.00000000000000000000000000000000110010001111010111000010100011110_2 \times 2^{33}
\]
二者相加有,\(3.14+1e20 = 1.00101010000001011111001(截断)000000000110010001111010111000010100011110_2 \times 2^{33}\)
由于单精度浮点数尾数只有23位,因此会进行舍入操作,这里是截断23位之后的二进制数字,最终3.14+1e10与1e10的二进制代码相同,
所以(3.14 + 1e10) -1e10 = 0
扩展
- 回到最开始的代码,如果将a,b修改为double类型,得到的结果是不是会有变化呢?
答案是会的,因此double的尾数是52位,因此尾数并不会发生舍入,所以此时的结果是正确的。
- 我们可以发现,当浮点数a >> b时,由于需要调整b的阶码与a对齐,所以a的尾数表示左侧可能会出现大量的0,导致b的有效位被截断而丢失。
3.14 + 1e10 - 1e10 = 0 ? ——浮点数的本质的更多相关文章
- C语言的本质(4)——浮点数的本质与运算
C语言的本质(4)--浮点数的本质与运算 C语言规定了3种浮点数,float型.double型和long double型,其中float型占4个字节,double型占8个字节,longdouble型长 ...
- 14 Zabbix4.4.0系统实现监控checkpoint设备
点击返回:自学Zabbix之路 点击返回:自学Zabbix4.0之路 点击返回:自学zabbix集锦 14 Zabbix4.4.0系统实现监控checkpoint设备 1. 前期规划信息 2. 配置 ...
- [Freescale]Freescale L3.14.52_1.1.0 yocto build
可参照:http://blog.csdn.net/wince_lover/article/details/51456745 1. Refer to <基于i.mx6处理器的Yocto项目及Lin ...
- ISSCC 2017论文导读 Session 14:ENVISION: A 0.26-to-10 TOPS/W Subword-Parallel DVAFS CNN Processor in 28nm
ENVISION: A 0.26-to-10 TOPS/W Subword-Parallel Dynamic-Voltage-Accuracy-Frequency-Scalable CNN Proce ...
- 2018/04/14 理解oAuth2.0
最近都近没有更新博客了,卡在 oAuth 上了. 之前公司做统一身份的认证,不了解 oAuth 的我在这卡了两天. 于是决定仔细研究原理,理论指导实践. -- 什么是 oAuth ? 简单来说 oAu ...
- 【14】vuex2.0 之 mutation 和 action
我们的项目非常简单,当点击+1按钮的时候,count 加1,点击-1按钮的时候,count 减1. 1, mutation The only way to actually change state ...
- Android自定义组件系列【14】——Android5.0按钮波纹效果实现
今天任老师发表了一篇关于Android5.0中按钮按下的波纹效果实现<Android L中水波纹点击效果的实现>,出于好奇我下载了源代码看了一下效果,正好手边有一个Nexus手机,我结合实 ...
- 万答#14,xtrabackup8.0怎么恢复单表
欢迎来到 GreatSQL社区分享的MySQL技术文章,如有疑问或想学习的内容,可以在下方评论区留言,看到后会进行解答 GreatSQL社区原创内容未经授权不得随意使用,转载请联系小编并注明来源. 实 ...
- 【js奇妙说】如何跟非计算机从业者解释,为什么浮点数计算0.1+0.2不等于0.3?
壹 ❀ 引 0.1+0.2不等于0.3,即便你不知道原理,但也应该听闻过这个问题,包括博主本人也曾在面试中被问到过此问题.很遗憾,当时只知道一句精度丢失,但是什么原因造成的精度丢失却不太清楚.而我在查 ...
- MySQL 127.0.0.1和localhost本质区别
登录方式: [root@10-4-14-168 ~]# mysql -uroot -p Enter password: 查看权限表 mysql> SELECT user,host,passwor ...
随机推荐
- 【狂神说Java】Java零基础学习笔记-Java基础
[狂神说Java]Java零基础学习笔记-Java基础 Java基础01:注释 平时我们编写代码,在代码量比较少的时候,我们还可以看懂自己写的,但是当项目结构一旦复杂起来,我们就需要用到注释了. 注释 ...
- UOS系统mysql服务安装
UOS系统mysql服务安装 背景 1.安装环境:kvm虚拟机 2.运行环境:uos server-1060e 3.架构:x86 4.安装mysql版本:mysql-5.7 1.安装准备 # Mysq ...
- 利用mybatis拦截器记录sql,辅助我们建立索引(二)
背景 上一篇中讲述了mybatis的mapper初始化过程和执行过程,这篇再讲讲具体的拦截器的使用,以实现记录sql到持久化存储,通过分析这些sql,我们就能更方便地建立索引. 利用mybatis拦截 ...
- A note on the calculation of some functions in finite fields: Tricks of the Trade解读
本节对该paper进行解读,记录笔记. 经常见到的是在素域\(F_p\)上计算的,尤其是双线性对出现后,在扩域\(F_{p^m}\)上计效率就需要优化了.该论文主要总结了一些在有限域上进行某些计算(求 ...
- [rustGUI][iced]基于rust的GUI库iced(0.13)的部件学习(05):svg图片转为png格式(暨svg部件的使用)
前言 本文是关于iced库的部件介绍,iced库是基于rust的GUI库,作者自述是受Elm启发. iced目前的版本是0.13.1,相较于此前的0.12版本,有较大改动. 本合集是基于新版本的关于分 ...
- Synchronized的各场景使用方法(多窗口售票例子接上篇)
同步锁机制:在<Thinking in Java>中,是这么说的:对于并发工作,你需要某种方式来防止两个任务访问相同的资源(其实就是共享资源竞争). 防止这种冲突的方法就是当资源被一个 ...
- linux下自建NAS教程
NAS,英文全名Network Attached Storage,翻译过来是:网络附接存储. 引用维基百科定义 网络附接存储(英语:Network Attached Storage,缩写:NAS)[1 ...
- ELB UDP健康检查常见故障分析
本文分享自天翼云开发者社区<ELB UDP健康检查常见故障分析>,作者:王****宁 什么是UDP健康检查 UDP是面向非连接的一种协议,在发送数据前不会通过进行三次握手建立连接,UDP健 ...
- linux shell 脚本调试技巧
本文分享自天翼云开发者社区<linux shell 脚本调试技巧>,作者:g****n 1.bash -x 加脚本 这是最常用的调试手段,终端会打印出,脚本执行过程中的每一个命令. a. ...
- Kali 切换中文模式
Kali 切换中文模式 在桌面打开终端,输入sudo dpkg-reconfigure locales命令,然后输入kali的密码 在选择栏目找到 zh_CN.UTF-8 UTF-8 找到之后按 空格 ...