3.14 + 1e10 - 1e10 = 0 ? ——浮点数的本质

我们先看这样一个例子:

#include <iostream>

int main(int argc, char **argv)
{ float a = 3.14;
float b = 1e10; std::cout << a << " " << b << std::endl;
std::cout << (a+b)-b << std::endl;
std::cout << a+(b-b) << std::endl; return 0;
}

这个程序的输出是:

我们可以看到 (a+b)-b 得到了0,这个结果是有些匪夷所思的。为了解答这个问题,我们需要理解浮点数在计算机中的表示方法。

浮点数的表示——IEEE754

IEEE浮点标准使用\(V = (-1)^s \times M \times 2^E\)来表示一个数,其中\(s\)是一个符号位,取0或者1,用来确定实数的符号,\(M\)是尾数,\(E\)是阶码,通常用移码表示。

对于单精度浮点数,符号位为1位,阶码为8位,尾数为23位。对于双精度浮点数,符号位为1位,阶码为11位,尾数为52位。

举个例子,对于一个实数0.675,其二进制表示为0.101,我们可以看做\((-1)^0 \times 1.01 \times 2^{-1}\),因此阶码\(E\)的移码表示是10000000,对于尾数,暗含一个1,因此对于尾数的表示是01000000000000000000000,空余位补0,综上可以得到0.625的单精度浮点数表示:

这里帮大家回顾一下浮点数的表示,更多细节可以查阅相关资料。

现在我们就可以回答上面的问题了:

\[1e10 = 10000000000 = 1001010100000010111110010000000000_2 = 1.001010100000010111110010000000000_2 \times 2^{33}
\]

此时1e10二进制表示的尾数部分是高于23位的,因此会执行舍入操作,因此尾数\(M\)=00101010000001011111001

综上,1e10的单精度浮点数表示是: 0 101000 00101010000001011111001

而对于3.14则有:\(3.14 \approx 11.0010001111010111000010100011110_2 =1.10010001111010111000010100011110_2 \times 2^1\)

为了实现3.14+1e20,我们需要调整3.14的阶码,使得二者的阶码相同

因此此时有:

\[3.14 \approx
\\ 0.00000000000000000000000000000000110010001111010111000010100011110_2 \times 2^{33}
\]

二者相加有,\(3.14+1e20 = 1.00101010000001011111001(截断)000000000110010001111010111000010100011110_2 \times 2^{33}\)

由于单精度浮点数尾数只有23位,因此会进行舍入操作,这里是截断23位之后的二进制数字,最终3.14+1e10与1e10的二进制代码相同

所以(3.14 + 1e10) -1e10 = 0

扩展

  1. 回到最开始的代码,如果将a,b修改为double类型,得到的结果是不是会有变化呢?

​ 答案是会的,因此double的尾数是52位,因此尾数并不会发生舍入,所以此时的结果是正确的。

  1. 我们可以发现,当浮点数a >> b时,由于需要调整b的阶码与a对齐,所以a的尾数表示左侧可能会出现大量的0,导致b的有效位被截断而丢失。

3.14 + 1e10 - 1e10 = 0 ? ——浮点数的本质的更多相关文章

  1. C语言的本质(4)——浮点数的本质与运算

    C语言的本质(4)--浮点数的本质与运算 C语言规定了3种浮点数,float型.double型和long double型,其中float型占4个字节,double型占8个字节,longdouble型长 ...

  2. 14 Zabbix4.4.0系统实现监控checkpoint设备

    点击返回:自学Zabbix之路 点击返回:自学Zabbix4.0之路 点击返回:自学zabbix集锦 14 Zabbix4.4.0系统实现监控checkpoint设备 1. 前期规划信息 2. 配置 ...

  3. [Freescale]Freescale L3.14.52_1.1.0 yocto build

    可参照:http://blog.csdn.net/wince_lover/article/details/51456745 1. Refer to <基于i.mx6处理器的Yocto项目及Lin ...

  4. ISSCC 2017论文导读 Session 14:ENVISION: A 0.26-to-10 TOPS/W Subword-Parallel DVAFS CNN Processor in 28nm

    ENVISION: A 0.26-to-10 TOPS/W Subword-Parallel Dynamic-Voltage-Accuracy-Frequency-Scalable CNN Proce ...

  5. 2018/04/14 理解oAuth2.0

    最近都近没有更新博客了,卡在 oAuth 上了. 之前公司做统一身份的认证,不了解 oAuth 的我在这卡了两天. 于是决定仔细研究原理,理论指导实践. -- 什么是 oAuth ? 简单来说 oAu ...

  6. 【14】vuex2.0 之 mutation 和 action

    我们的项目非常简单,当点击+1按钮的时候,count 加1,点击-1按钮的时候,count 减1. 1, mutation The only way to actually change state ...

  7. Android自定义组件系列【14】——Android5.0按钮波纹效果实现

    今天任老师发表了一篇关于Android5.0中按钮按下的波纹效果实现<Android L中水波纹点击效果的实现>,出于好奇我下载了源代码看了一下效果,正好手边有一个Nexus手机,我结合实 ...

  8. 万答#14,xtrabackup8.0怎么恢复单表

    欢迎来到 GreatSQL社区分享的MySQL技术文章,如有疑问或想学习的内容,可以在下方评论区留言,看到后会进行解答 GreatSQL社区原创内容未经授权不得随意使用,转载请联系小编并注明来源. 实 ...

  9. 【js奇妙说】如何跟非计算机从业者解释,为什么浮点数计算0.1+0.2不等于0.3?

    壹 ❀ 引 0.1+0.2不等于0.3,即便你不知道原理,但也应该听闻过这个问题,包括博主本人也曾在面试中被问到过此问题.很遗憾,当时只知道一句精度丢失,但是什么原因造成的精度丢失却不太清楚.而我在查 ...

  10. MySQL 127.0.0.1和localhost本质区别

    登录方式: [root@10-4-14-168 ~]# mysql -uroot -p Enter password: 查看权限表 mysql> SELECT user,host,passwor ...

随机推荐

  1. Solution Set -「DS 专题」兔年的兔子写 DS 会有小常数吗?

    目录 Day 1 「Ynoi 2009」「洛谷 P6109」rprmq1 ^ 「Ynoi Easy Round 2021」「洛谷 P8512」TEST_152 「Ynoi 2005」「洛谷 P7907 ...

  2. Solution -「AGC 039F」Min Product Sum

    \(\mathscr{Description}\)   Link.   对于所有 \(n\times m\) 的矩阵 \(A\), \(a_{ij}\in[1,k]\cap\mathbb N\), 求 ...

  3. c# 反射私有类和私有方法

    namespace ClassLibrary1 { class InnerClass//私类 { public string Test(string s) { return "" ...

  4. HashMap的put方法的扩容流程

    final Node<K,V>[] resize() { // [1,2,3,4,5,6,7,8,9,10,11,,,,] Node<K,V>[] oldTab = table ...

  5. HPC的基本概念

    本文分享自天翼云开发者社区<HPC的基本概念>,作者:它零食抱佛jio HPC(High Performance Computing)是一种高性能计算技术,它利用大规模并行处理器集群或超级 ...

  6. 五分钟搭建属于你的AI助手:Ollama+DeepSeek+AnythingLLM深度整合教程

    作者简介 微信公众号:密码应用技术实战 博客园首页:https://www.cnblogs.com/informatics/ GitHub地址:https://github.com/warm3snow ...

  7. 在 PyTorch 中理解词向量,将单词转换为有用的向量表示

    你要是想构建一个大型语言模型,首先得掌握词向量的概念.幸运的是,这个概念很简单,也是本系列文章的一个完美起点. 那么,假设你有一堆单词,它可以只是一个简单的字符串数组. animals = [&quo ...

  8. FLink处理函数ProcessFunction、KeyedProcessFunction、ProcessWindowFunction、 ProcessAllWindowFunction

    一.处理函数简介 在底层,我们可以不定义任何具体的算子(比如 map,filter,或者 window),而只是提炼出一个统一的"处理"(process)操作--它是所有转换算子的 ...

  9. 2024年! kali高级配置加一键教程加前人的经验加后人的实践

    2024年! kali高级配置加一键教程加前人的经验加后人的实践 记录一下配置kali的过程,方便下次需要直接复制粘贴 直接终端按照顺序输入就可以配置好 作者已踩点,请放心 kali更换国内源 sud ...

  10. 安川Yaskawa机器人DX100示教器维修的优劣势分析

    安川Yaskawa机器人DX100示教器维修的优劣势分析 安川Yaskawa机器人示教编程,即操作人员经过安川机器人示教器,手动操控机器人的关节运动,以使机器人运动到预订的方位,一起将该方位进行记载, ...