Python numpy 浮点数精度问题
Python numpy 浮点数精度问题
在复现FP(fictitious play, Iterative solution of games by fictitious play-page393)算法的时候,迭代到中间发现没法复现paper里的结果,发现是numpy矩阵运算浮点数精度的问题。
- 具体问题
矩阵和向量相乘
3 & 1 & 1 & 1
\end{pmatrix}
\times \begin{pmatrix}
3 & 1.1 & 1.2 \\
1.3 & 2 & 0 \\
0 & 1 & 3.1 \\
2 & 1.5 & 1.1
\end{pmatrix}
= \begin{pmatrix}
12.3 & 7.8 & 7.8
\end{pmatrix}
\]
然后取argmin想得到第一个7.8的index,也就是1。但由于精度的问题,导致两个7.8实际不一样大,取到了第二个7.8的index。
具体问题代码为
import numpy as np
x = np.matrix([3,1,1,1])*np.matrix([[3,1.1,1.2],[1.3,2,0],[0,1,3.1],[2,1.5,1.1]])
print('matrix: ',x)
print('value: ',x[0,0],x[0,1],x[0,2])
print('index: ',np.argmin(x))
得到
matrix: [[12.3 7.8 7.8]]
value: 12.3 7.800000000000001 7.799999999999999
index: 2
可以发现明明相同的两个7.8由于精度变成了两个大小不同的数,所以argmin得到了2。
- 解决办法
二进制固有的问题,只能自己手动近似,用保留小数点位数消除误差。
如这里保留5位小数:
import numpy as np
x = np.round(np.matrix([3,1,1,1])*np.matrix([[3,1.1,1.2],[1.3,2,0],[0,1,3.1],[2,1.5,1.1]]),5)
print('matrix: ',x)
print('value: ',x[0,0],x[0,1],x[0,2])
print('index: ',np.argmin(x))
得到
matrix: [[12.3 7.8 7.8]]
value: 12.3 7.8 7.8
index: 1
- 注意事项
这个办法不能解决所有问题,毕竟每个问题精度要求不一样。但由于计算机二进制的原因,没法从根本上解决,只能通过近似的方式,具体问题具体解决。
Python numpy 浮点数精度问题的更多相关文章
- 用decimal模块增加python的浮点数精度
浮点数python默认是17位精度,也就是小数点后16位(16位以后的全部四舍五入了),虽然有16位,但是这个精度越往后越不准. 如果有特殊需求,需要更多的精度,可以用decimal模块,通过更改其里 ...
- Python中浮点数精度处理
Python中,浮点数运算,经常会碰到如下情况: 出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确.比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:0.0001 ...
- Python的浮点数损失精度问题
本篇讨论的现象可以从下面这段脚本体现出来: >>> x = 0.0 >>> for i in range(10): x += 0.1 print(x) 0.1 0. ...
- Python之☞float浮点数精度问题
Python的浮点数损失精度问题(转) 一个简单的面试题: >>>0.1+0.1+0.1 0.2 >>>0.1+0.1+0.1 0.3000000000000000 ...
- Python numpy中矩阵的用法总结
关于Python Numpy库基础知识请参考博文:https://www.cnblogs.com/wj-1314/p/9722794.html Python矩阵的基本用法 mat()函数将目标数据的类 ...
- Python NumPy学习总结
一.NumPy简介 其官网是:http://www.numpy.org/ NumPy是Python语言的一个扩充程序库.支持高级大量的维度数组与矩阵运算,此外也针对数组运算提供大量的数学函数库.Num ...
- mingw fbx sdk /浮点数精度
接下来要做一个linux下的程序了. 下载linux version fbx sdk tar zxvf ...gz 按照安装说明 提升权限并没什么用 还是,cannot execute bin ...
- Python/Numpy大数据编程经验
Python/Numpy大数据编程经验 1.边处理边保存数据,不要处理完了一次性保存.不然程序跑了几小时甚至几天后挂了,就啥也没有了.即使部分结果不能实用,也可以分析程序流程的问题或者数据的特点. ...
- 在python&numpy中切片(slice)
在python&numpy中切片(slice) 上文说到了,词频的统计在数据挖掘中使用的频率很高,而切片的操作同样是如此.在从文本文件或数据库中读取数据后,需要对数据进行预处理的操作.此时就 ...
随机推荐
- 4.kubernetes的服务发现插件-CoreDNS
1.1.部署K8S内网资源清单http服务 1.2.部署coredns 部署K8S内网资源清单http服务 在运维主机HDSS7-200.host.com上,配置一个nginx虚拟主机,用以提高k8s ...
- JavaWeb网上图书商城完整项目--day02-9.提交注册表单功能之servlet层实现
1.当用户在界面提交注册提交的时候,我们在UerServlet来实现具体的业务方法 标准demo: 1CommonUtils CommonUtils类就两个方法: lString uuid():生成长 ...
- Docker 基础知识 - Docker 概述
Docker 是一个开发.发布和运行应用程序的开放平台.Docker使您能够将应用程序与基础架构分离,以便快速交付软件.有了 Docker,你可以像管理应用程序一样管理你的基础设施.通过利用 Dock ...
- Spring Boot入门系列(十六)使用pagehelper实现分页功能
之前讲了Springboot整合Mybatis,然后介绍了如何自动生成pojo实体类.mapper类和对应的mapper.xml 文件,并实现最基本的增删改查功能.接下来要说一说Mybatis 的分页 ...
- 【部分】ASP.NET MVC5 - 地址栏传参两种方法
地址栏传参两种方法 1- Home/Index/88 (后台控制器读取需要一样的参数名称) 2- Home/Index?id1=88?id2=99 (Request三种接受方法) ...
- 超简单集成HMS Scan Kit扫码SDK,轻松实现扫码购
前言 在前面的文章中,我们向大家介绍了HMS Scan Kit 的快速集成方法以及HMS Scan Kit和其他开源扫码工具的竞争力对比分析,如果没有看到也没关系,文章下方的往期链接中有文章入口. ...
- python编码--解码
在py3中只有两种数据类型:str bytes str: 存unicode(万国码)编码--全球通用的 bytes:存的是16进制的 1.str s='ehllo 丽庆' --->它存在内 ...
- 113资讯网:安装程序进入Admin后台出现:SQLSTATE[HY000] [1045] Access denied for user'root'@'localhost' (using password: YES)
各项设置设置正确,就是出现这种原因! 1.config.inc.php解决办法: 修改phpMyAdmin的配置文件里的密码设置,进入phpMyAdmin的安装目录,找到config.inc.php配 ...
- linux系统,没有安装任何编辑器的情况,如何操作文件
[清空文件] echo " " > filename [添加内容] echo "123" >> filename
- 【搬砖】/etc/passwd 文件结构
文件的内容: 每个Linux都会有root账号,以此来说明,从内容上看,每行都使用[:]分隔(注意:每行前面的数字是行号,不是内容),所以一共有七部分内容,分别是: 1. 账号名称:root,用来对应 ...