[20191002]函数dump的bug.txt
[20191002]函数dump的bug.txt
--//前几天写raw转化oracle number脚本,在使用函数dump时遇到一些问题,做一个记录:
--//oracle number 0 编码 是80,大于80是正数.
1.环境:
SCOTT@test01p> @ ver1
PORT_STRING VERSION BANNER CON_ID
------------------------------ -------------- -------------------------------------------------------------------------------- ----------
IBMPC/WIN_NT64-9.1.0 12.2.0.1.0 Oracle Database 12c Enterprise Edition Release 12.2.0.1.0 - 64bit Production 0
2.dump 函数问题.
SCOTT@test01p> select dump(1e-130,16) from dual ;
DUMP(1E-130,16)
-----------------
Typ=2 Len=2: 80,2
SCOTT@test01p> select dump(1e-131,16) from dual ;
DUMP(1E-131,16)
---------------
Typ=2 Len=1: 80 --> 实际上是0.
--//但是如果输入:
SCOTT@test01p> select dump(to_number('.'||lpad('0',129,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 80,2
--//正确!!
SCOTT@test01p> select dump(to_number('.'||lpad('0',130,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 7f,b
SCOTT@test01p> select dump(to_number('.'||lpad('0',131,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 7f,2
SCOTT@test01p> select dump(to_number('.'||lpad('0',132,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 7e,b
SCOTT@test01p> select dump(to_number('.'||lpad('0',232,'0')||'1'),16) from dual;
DUMP(TO_NUMBER('.
-----------------
Typ=2 Len=2: 4c,b
--//很明显dump输入的数字没有采用科学计数法并且等于1e-131,1e-132存在bug.显示7f,2以及7e,b明显有问题.变成负数并且后面没有0x66.
--//可以将转化的编码是非法的.
--//to_number('.'||lpad('0',132,'0')||'1') = 1e-133
--//oracle 百进制转化为 0.10 * 100^(-67) . exp=-67, 尾数编码是 10 (十进制)+1 = 0xb .
--//193+(-67) = 126 = 0x7e.
--//或者将讲dump函数考虑不够仔细,在直接输入的情况下没有做边界检查.oracle number最小的正数字是1e-130.
--//而且可以猜测2种格式的数据oracle是分开处理的.
[20191002]函数dump的bug.txt的更多相关文章
- [20171220]toad plsql显示整形的bug.txt
[20171220]toad plsql显示整形的bug.txt --//下午有itpub网友反应,一个查询在sqlplus,pl/sql下不同.链接如下:--//http://www.itpub.n ...
- ASP无惧上传类不能上传中文双引号文件及ASP函数InStr存在bug
ASP无惧上传类不能上传中文双引号文件及ASP函数InStr存在bug 近日发现eWebEditor V2.8 asp 版本上传文件文件名不能包含中文双引号,发现eWebEditor使用ASP“无惧上 ...
- 0.11内核rd_load@ramdisk.c中memcpy函数好像有bug
0.11内核rd_load@ramdisk.c中memcpy函数好像有bug,如:#define memcpy(dst,src,n) \ __asm__("cld;rep;movsl& ...
- MySQL 对window函数执行sum函数疑似Bug
MySQL 对window函数执行sum函数疑似Bug 使用MySql的窗口函数统计数据时,发现一个小的问题,与大家一起探讨下. 环境配置: mysql-installer-community-8.0 ...
- 等待进程结束函数中的BUG
偶然发现一个BUG,有一个函数是这样写的: void WaitProcExit(DWORD dwPid) { HANDLE hProcess = OpenProcess(PROCESS_ALL_ACC ...
- #define宏定义形式的"函数"导致的bug
定义了一个宏定义形式的"函数": #define SUM8(YY)\ {\ int Y = YY>>2;\ ...\ } 然后使用的时候,传入了一个同名的变量Y: i ...
- adb bugreport > d:/bug.txt
adb bugreport > d: 快速下载anr等bug日志
- 命令行dump anr traces.txt文件
adb shell su ps //这里找到自己app对应的pid pid //退出shell 模式 adb pull /data/anr/traces.txt f:\log
- C++虚函数继承的bug
闲来无事想测试一下:如果在派生类中重写基类的虚函数,那么允不允许改变虚函数的访问权限,结果颠覆了三观..... 基类Base,拥有public方法test(),test()为虚函数 派生类Derive ...
随机推荐
- HTML 文件路径
文件路径描述了网站文件夹结构中某个文件的位置. 文件路径会在链接外部文件时被用到: 网页 图像 样式表 JavaScript 绝对文件路径 绝对文件路径是指向一个因特网文件的完整 URL: 实例 &l ...
- js分号问题
总结一句话: 一行开头是括号(比如IIFE)或者方括号的时候加上分号就可以
- 查询物料单位PAC成本
select cpp.period_name 期间名称, ccga.organization_id 组织ID, ood.ORGANIZATION_CODE 组织代码, OOD.ORGANIZATION ...
- 一个驱动导致的内存泄漏问题的分析过程(meminfo->pmap->slabtop->alloc_calls)
关键词:sqllite.meminfo.slabinfo.alloc_calls.nand.SUnreclaim等等. 下面记录一个由于驱动导致的内存泄漏问题分析过程. 首先介绍问题背景,在一款嵌入式 ...
- 『003』Shell命令
『001』索引-Linux Shell Command shell命令 <01>[线上查询及帮助][001]-[001] [001]- 点我快速打开文章[man][help][已改版] & ...
- AtCoder Regular Contest 100
传送门 C - Linear Approximation 题意: 求 \[ \sum_{i=1}^nabs(A_i-(b+i)) \] \(A_i,b\)给出. 思路: 将括号拆开,变为\(A_i-i ...
- SQL查询--内连接、外连接、自连接查询
先创建2个表:学生表和教师表 1.内连接: 在每个表中找出符合条件的共有记录.[x inner join y on...] 第一种写法:只用where SELECT t.TEACHER_NAME, ...
- 66000][12505] Listener refused the connection with the following error: ORA-12505, TNS:listener does not currently know of SID given in connect descriptor oracle.n et.ns.NetException: Listener refuse
新装的idea开发工具后连接数据库出现如题所示错误. 1.网上搜了不少的文章,没有解决我的问题.后来细心看了一下url: 一开始url是这样子的. jdbc:oracle:thin:@:s21_pdb ...
- js SetTimeout传参问题
今天写代码遇到这样一个问题,先上代码 <!--JS方法--> function textout(obj){ if(opac==60){opac=0;return;}; opac+=10; ...
- HTML连载43-还原字体和字号、文字界面
一.还原字体和字号 1.利用fireworks切片以及文本添加的功能可以用来定位我们想要的文字是什么字体,行高又是多少,但其实很low,是我们人工挑选出来的. 2.注意点:在企业开发中,如果一个盒子中 ...