[20191002]函数dump的bug.txt
[20191002]函数dump的bug.txt
--//前几天写raw转化oracle number脚本,在使用函数dump时遇到一些问题,做一个记录:
--//oracle number 0 编码 是80,大于80是正数.
1.环境:
SCOTT@test01p> @ ver1
PORT_STRING VERSION BANNER CON_ID
------------------------------ -------------- -------------------------------------------------------------------------------- ----------
IBMPC/WIN_NT64-9.1.0 12.2.0.1.0 Oracle Database 12c Enterprise Edition Release 12.2.0.1.0 - 64bit Production 0
2.dump 函数问题.
SCOTT@test01p> select dump(1e-130,16) from dual ;
DUMP(1E-130,16)
-----------------
Typ=2 Len=2: 80,2
SCOTT@test01p> select dump(1e-131,16) from dual ;
DUMP(1E-131,16)
---------------
Typ=2 Len=1: 80 --> 实际上是0.
--//但是如果输入:
SCOTT@test01p> select dump(to_number('.'||lpad('0',129,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 80,2
--//正确!!
SCOTT@test01p> select dump(to_number('.'||lpad('0',130,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 7f,b
SCOTT@test01p> select dump(to_number('.'||lpad('0',131,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 7f,2
SCOTT@test01p> select dump(to_number('.'||lpad('0',132,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 7e,b
SCOTT@test01p> select dump(to_number('.'||lpad('0',232,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 4c,b
--//很明显dump输入的数字没有采用科学计数法并且等于1e-131,1e-132存在bug.显示7f,2以及7e,b明显有问题.变成负数并且后面没有0x66.
--//可以将转化的编码是非法的.
--//to_number('.'||lpad('0',132,'0')||'1') = 1e-133
--//oracle 百进制转化为 0.10 * 100^(-67) . exp=-67, 尾数编码是 10 (十进制)+1 = 0xb .
--//193+(-67) = 126 = 0x7e.
--//或者将讲dump函数考虑不够仔细,在直接输入的情况下没有做边界检查.oracle number最小的正数字是1e-130.
--//而且可以猜测2种格式的数据oracle是分开处理的.
[20191002]函数dump的bug.txt的更多相关文章
- [20171220]toad plsql显示整形的bug.txt
[20171220]toad plsql显示整形的bug.txt --//下午有itpub网友反应,一个查询在sqlplus,pl/sql下不同.链接如下:--//http://www.itpub.n ...
- ASP无惧上传类不能上传中文双引号文件及ASP函数InStr存在bug
ASP无惧上传类不能上传中文双引号文件及ASP函数InStr存在bug 近日发现eWebEditor V2.8 asp 版本上传文件文件名不能包含中文双引号,发现eWebEditor使用ASP“无惧上 ...
- 0.11内核rd_load@ramdisk.c中memcpy函数好像有bug
0.11内核rd_load@ramdisk.c中memcpy函数好像有bug,如:#define memcpy(dst,src,n) \ __asm__("cld;rep;movsl& ...
- MySQL 对window函数执行sum函数疑似Bug
MySQL 对window函数执行sum函数疑似Bug 使用MySql的窗口函数统计数据时,发现一个小的问题,与大家一起探讨下. 环境配置: mysql-installer-community-8.0 ...
- 等待进程结束函数中的BUG
偶然发现一个BUG,有一个函数是这样写的: void WaitProcExit(DWORD dwPid) { HANDLE hProcess = OpenProcess(PROCESS_ALL_ACC ...
- #define宏定义形式的"函数"导致的bug
定义了一个宏定义形式的"函数": #define SUM8(YY)\ {\ int Y = YY>>2;\ ...\ } 然后使用的时候,传入了一个同名的变量Y: i ...
- adb bugreport > d:/bug.txt
adb bugreport > d: 快速下载anr等bug日志
- 命令行dump anr traces.txt文件
adb shell su ps //这里找到自己app对应的pid pid //退出shell 模式 adb pull /data/anr/traces.txt f:\log
- C++虚函数继承的bug
闲来无事想测试一下:如果在派生类中重写基类的虚函数,那么允不允许改变虚函数的访问权限,结果颠覆了三观..... 基类Base,拥有public方法test(),test()为虚函数 派生类Derive ...
随机推荐
- CronExpression表达式详解和案例
1. cron表达式格式: {秒数} {分钟} {小时} {日期} {月份} {星期} {年份(可为空)} 2. cron表达式各占位符解释: {秒数} ==> 允许值范围: 0~59 ,不允许 ...
- 前vue.js+elementui,后koa2,nodejs搭建网站
1,安装 nodejs,npm 2,使用 npm 安装 vue,vue-cli 3,使用脚手架搭建项目,添加依赖:axios,vue-router,elementui,vuex 等 4,建立 rout ...
- 简单学习HTML
最近突然就对静态页面很有兴趣,主要是看到几个比较酷炫的页面效果,也想自己做一下,但是我的前端页面就是菜鸡,还停留在html+css+jquery的简单使用上,而且还忘记得差不多了! 而且我感觉前端比后 ...
- opencv-python图像处理基础(一)
#一.读取图像数据 import cv2 img=cv2.imread("d:/image0.JPG") #读取图片数据 print(img) cv2.imshow('image' ...
- MVC、MVP与MVVM架构模式
MVC(Model View Controller): View 层是界面,Model 层是业务逻辑,Controller 层用来调度 View 层和 Model 层, 将用户界面和业务逻辑合理的组织 ...
- 小程序组件化开发框架---wepy 项目创建
wepy是一个优秀的微信小程序组件化框架,突破了小程序的限制,支持了npm包加载以及组件化方案.这里就以我个人的经历讲下怎么创建wepy项目. 1.首先 在桌面(自己选定目录下)新建一个文件夹,注意需 ...
- Visual Studio Code管理MySQL
1. VS Code安装插件:MySQL , 安装完毕重新加载即可激活 2. 连接 mysql 3. 断开连接mysql 4. 简单操作 查看字段 新建查询语句 显示表结构 插入数据
- [Go] protobuffer 的环境配置
一般使用gprc是需要使用protobuf作为数据传输的格式标准,可以对要传输的对象结构体进行序列化 先安装protoc,找到对应版本,下载直接把二进制文件复制到环境变量可以访问到的地方就行 http ...
- June 30th, 2019. Week 26th, Sunday
It's so easy to be careless, it takes courage and courage to care. 不在乎很容易,但在乎却需要很多勇气. Sometimes it w ...
- R-2 - 正态分布-中心极限-置信区间-正态假设检验
本节内容 1:样本估计总体均值跟标准差,以及标准误 2:中心极限定理 3:如何查看数据是否是正态分布QQ图 4:置信区间的理解跟案例 5:假设检验 参考文章: 假设检验的学习和理解 一.样本估计总体均 ...