pack、unpack自制二进制“数据库”
引言
pack、unpack函数,如果没有接触过socket,这个可能会比较陌生,这两个函数在socket交互的作用是组包,将数据装进一个二进制字符串,和对二进制字符串中的数据进行解包,这个里面有好多种格式,具体的格式可以去查查官方的手册(或者等看完本篇文章之后,去调用接口查看),我这里主要用了pack(“N”,int),pack(“a”,str)以及他们两个对应的解包函数,N在手册中的解释是下面这个,占4个字节,大端方式(其实就是低位在前还是在后的问题)。a是对字符串进行打包,不够指定的数值的时候用NULL(\0,或者说assic码0对应的字符)填充。
N - unsigned long (always 32 bit, big endian byte order)
a - NUL-padded string
我将用这个打包解包函数做一个函数手册查询小工具,或者可以说是一个自制小型二进制数据库。
设计数据格式
在做这个二进制文件数据库的时候我会创建两个文件,一个是索引文件,一个是要查询的数据的文件,分别看看他们的结构:
说明中括号内的数字为所占字节(bytes)数,"~"波浪线表示所占字节数不确定
数据文件,第一个php是一个正式的字符串"php",占4个字节,后面跟着版本说明,长度不确定(这个长度可以从后面的index文件中获取),接下来后面是存储信息的主体了。首先是一个函数名长度lenName占4个字节,接下来是函数名称,长度不确定,有前面的lenName对应的值确定,接下来是lenVal占4个字节,后面跟的是具体的函数说明内容,长度有前面的lenVal对应的值确定。
内容存储格式定义
++++++++++++++++++++++++++++++++++++++
|php() |版本说明(~) |
++++++++++++++++++++++++++++++++++++++
|lenName() |函数名称(~) |
++++++++++++++++++++++++++++++++++++++
|lenVal() |函数内容(~) |
++++++++++++++++++++++++++++++++++++++
......
索引文件,索引文件就比较简单了,其中全部存储了上面的存储文件中每个函数开始的指针位置,每个位置占用4个字节。
索引格式定义
++++++++++++++++++++++++++++++++++++++
|position() |
++++++++++++++++++++++++++++++++++++++
......
查询的实现
由于存储文件中的内容是按照函数名顺序排序存储的,索引也是按照函数存储的顺序存储的,所以获取起来很方便,直接使用二分法就可以很轻松的获取到想要的函数
在查询的时候主要使用了下面几个方法:
第一、从制定位置获取一条索引的值(也就是对应的函数存储文件的指针位置)
/**
* 从索引文件中获取一条记录的位置
* @param 索引文件中的开始位置,从开始位置获取四个字节为一个函数说明的开始位置
* @return 返回该索引位置所对应的存储位置指针偏移量
*/
private function _getOneIndex($pos)
{
fseek($this->_indexHandle, $pos);
$len = unpack("Nlen", fread($this->_indexHandle, 4));
return $len['len'];
}
第二、从指定的指针偏移位置获取一条len(4)+val(~)格式的内容
/**
* 从制定的指针偏移量获取一个len+val型的内容
* @param $pos 文件的指针偏移量
* @return 返回数组,包括长度和值
*/
private function _getStoreLenValFormat($pos){
fseek($this->_storeHandle, $pos);
$len = unpack("Nlen", fread($this->_storeHandle, 4));
$len = $len['len'];
$val = fread($this->_storeHandle, $len);
return array
(
'len' => $len,
'value' => $val,
);
}
第三、获取制定函数的说明,这个也是最主要的一部分,使用二分法从数据文件中获取一条记录
/**
* 获取函数内容
* @param 要查找的函数名称
* @return 返回函数说明的json字符串
*/
public function get($func)
{
if(!$this->isInit())
return;
$begin = 0;
$end = filesize($this->_indexFile)/4;
$ret = '[]';
while($begin < $end){
$mid = floor(($begin + $end)/2);
$pos = $mid*4; //$mid只是指针变量的位置,还需要乘上指针的长度4
$pos = $this->_getOneIndex($pos);
$name = $this->_getStoreLenValFormat($pos);
$flag = strcmp($func, $name['value']);
if($flag == 0){
$val = $this->_getStoreLenValFormat($pos+4+$name['len']);
$ret = $val['value'];
break;
}elseif($flag < 0){
$end = $end == $mid ? $mid-1 : $mid;
}else{
$begin = $begin == $mid ? $mid+1 : $mid;
}
}
return $ret;
}
使用很简单,只需包含类库文件和存储文件数据库,然后调用几句代码就可以
<?php
include_once("./manual/phpManual.php"); $t = new phpManual();
$t->init('zh');
echo $t->get("unpack");
输出的是json字符串,转化后如下所示,其中有详细的说明,以及简洁的例子
{
"name": "unpack",
"desc": "Unpack data from binary string.",
"long_desc": "Unpacks from a binary string into an array according to the given `format`.\\n\\nThe unpacked data is stored in an associative array. To accomplish this you have to name the different format codes and separate them by a slash /. If a repeater argument is present, then each of the array keys will have a sequence number behind the given name.",
"ver": "PHP 4, PHP 5",
"ret_desc": "Returns an associative array containing unpacked elements of binary string.",
"seealso": [
"pack"
],
"url": "function.unpack",
"class": null,
"params": [
{
"list": [
{
"type": "string",
"var": "$format",
"beh": 0,
"desc": "See pack() for an explanation of the format codes."
},
{
"type": "string",
"var": "$data",
"beh": 0,
"desc": "The packed data."
}
],
"ret_type": "array"
}
],
"examples": [
{
"title": "unpack() example",
"source": "$binarydata = \"\\x04\\x00\\xa0\\x00\";\n$array = unpack(\"cchars/nint\", $binarydata);",
"output": null
},
{
"title": "unpack() example with a repeater",
"source": "$binarydata = \"\\x04\\x00\\xa0\\x00\";\n$array = unpack(\"c2chars/nint\", $binarydata);",
"output": null
},
{
"title": "unpack() example with unnamed keys",
"source": "$binarydata = \"\\x32\\x42\\x00\\xa0\";\n$array = unpack(\"c2/n\", $binarydata);\nvar_dump($array);",
"output": null
}
]
}
最后再附上目录结构:
+phpManual
+manual
+phpManual
+zh
|_manualIndex
|_manualStore
|_phpManual.php
|_test.php
这个是程序的完整地址:
参考
https://github.com/aizuyan/php-doc-parser 从这里拿到的phpmanual的全部数据
本文版权归作者iforever(luluyrt@163.com)所有,未经作者本人同意禁止任何形式的转载,转载文章之后必须在文章页面明显位置给出作者和原文连接,否则保留追究法律责任的权利。
pack、unpack自制二进制“数据库”的更多相关文章
- PHP: 深入pack/unpack
https://my.oschina.net/goal/blog/195749 PHP作为一门为web而生的服务器端开发语言,被越来越多的公司所采用.其中不乏大公司,如腾迅.盛大.淘米.新浪等.在对性 ...
- PHP: 深入pack/unpack 字节序
http://my.oschina.net/goal/blog/195749?p=1 目录[-] 写在前面的话 什么是字节序 MSB和LSB 大端序 小端序 网络字节序 主机字节序 总结 pack/u ...
- [转]PHP: 深入pack/unpack
From : http://my.oschina.net/goal/blog/195749 http://www.w3school.com.cn/php/func_misc_pack.asp PHP作 ...
- golang 仿python pack/unpack
写得不完善也不完美 尤其是高低位转换那(go和c 二进制高地位相反 需要转换,还有go int转[]byte长度是4位),希望牛人看后指导一下 项目需要通过socket调取 客户端是go ,服务器端是 ...
- python struct中的pack unpack
python struct中的pack unpack pytyon tuple元组 print struct.unpack("!ihb", buffer) 结果为7 //pyth ...
- PHP: 深入pack/unpack <转> [链接]
PHP: 深入pack/unpack PHP: chr和pack.unpack那些 PHP: pack/unpack补遗
- pg 和sql server 分别如何新建二进制数据库字段以及插入二进制数据的sql语句
PG create table demo ( id int, name bytea ); Insert into demo (id,name)values(256,pg_read_binary_fil ...
- php pack、unpack、ord 函数使用方法(二进制流接口应用实例)
在工作中,我也逐渐了解到pack,unpack,ord对于二进制字节处理的强大. 下面我逐一介绍它们.在我们工作中,用到它们的估计不多. 我在最近一个工作中,因为通讯需要用到二进制流,然后接口用php ...
- Pytho, struct处理二进制(pack和unpack)
[转]Python使用struct处理二进制(pack和unpack用法) Leave a reply 转载自:http://www.cnblogs.com/gala/archive/2011/09/ ...
随机推荐
- 拥抱 HTML5:storage 简介以及使用方法
前言 storage 其实是个很简单的东西,基本上只要知道 javascript 中对象的概念,然后读完此文,storage 的用法也就了然于胸了. 简单来说,你可以把 storage 想象成是储存在 ...
- SQL2005SP4补丁安装时错误: -2146233087 MSDTC 无法读取配置信息。。。错误代码1603的解决办法
是在安装slq2005sp3和sp4补丁的时候碰到的问题. 起先是碰到的错误1603的问题,但网上搜索的1603的解决办法都试过了,google也用了,外文论坛也读了,依然没有能解决这个问题. 其实一 ...
- 一次莽撞的行为:在phpmyadmin中修改MySQL root密码后无法操作数据库
一.手贱行为(✿◡‿◡) 在一次开发中通过xampp方式安装了PHP环境,需要操作数据库时通过phpmyadmin访问MySQL,在一次数据库操作时想起没有设置密码,于是直接在mysql数据库中的us ...
- Java:注解(元数据)
初识Java注解 所谓的元数据是指用来描述数据的数据,可能刚听到元数据的时候你会有点陌生,其实任何一个使用过struts或者hibernate的开发人员都在不知不觉中使用元数据,更通俗一点来说元数据是 ...
- Tensorflow学习笔记2:About Session, Graph, Operation and Tensor
简介 上一篇笔记:Tensorflow学习笔记1:Get Started 我们谈到Tensorflow是基于图(Graph)的计算系统.而图的节点则是由操作(Operation)来构成的,而图的各个节 ...
- 4.5你太黑了,不带这么玩TypeForwardedTo的
话说最近好不容易把framework 4.0的metadata信息都能全部抽出了,结果换4.5挂了...framework那帮人在4.5里面用了些什么诡异的玩意? 结果一看4.5的部分field用了t ...
- 如何批量删除虚拟机及其关联的存储(Windows Azure)
可以通过运行附件中PowerShell脚本文件RemoveVMandDisk.ps1批量删除VM和Disk,详细代码如下: param($serviceName) echo "Startin ...
- [BZOJ2768][JLOI2010]冠军调查(最小割)
题目:http://www.lydsy.com:808/JudgeOnline/problem.php?id=2768 分析: 如果一个点i认为是0,则连一条S->i,如果认为是1,则i-> ...
- MinHash算法
MinHash是用于快速检测两个集合的相似性的方法.改方法由Andrei Broder(1997)发明,并最初用于搜索引擎AltaVista中来检测重复的网页的算法.它同样可以用于推荐系统和大规模文档 ...
- 【UR #2】树上GCD
这道题是有根树点分治+烧脑的容斥+神奇的分块 因为是规定1为根,还要求LCA,所以我们不能像在无根树上那样随便浪了,必须规定父亲,并作特殊讨论 因为gcd并不好求,所以我们用容斥转化一下,求x为gcd ...