CompressIt
结构
压缩软件的核心在于压缩算法。基于Huffman编码的压缩算法思路:
- 以二进制方式读取源文件,按照每8bits作为一个字符;
- 统计每个字符的出现频率即为叶子结点的权值,按照Huffman算法得到每个叶子的编码;
- 对源文件的每个字符,将新的编码组合为二进制流,按照每8bits一个单位写入压缩文件。
举例来看:
假设我们有待压缩源文件hello,h的ASCII码为01101000,同理可得整个文件的二进制形式0110100001100101011011000110110001101111,共5B,40bits。
根据Huffman算法:得到h的编码为00,同理可得整个文件的Huffman编码为0001111110,末尾不够8bits,采用补0的方法可得0001111110000000,按照每8bits一个单位,写入压缩文件的是31和255对应的字符,共2B,16bits。
解压缩流程是压缩的逆过程:
- 以二进制方式读取压缩文件;
- 每次取1bit,从Huffman树的根结点出发,找到某个叶子即为源字符。
效果
做一个简单的比较:
| 压缩软件 | 测试文件 | 压缩率 | 测试文件 | 压缩率 |
|---|---|---|---|---|
| CompressIt | txt(840B) | 70.4% | png(282KB) | 101% |
| WinRaR | txt(840B) | 14.4% | png(282KB) | 100% |
压缩率和压缩时间和专业软件没法比。之所以出现压缩文件大于源文件,是因为压缩文件中还存储了Huffman树等信息,为解压所需。
对于不同内容的文件,得到的压缩文件大小也不尽相同,这主要与Huffman编码的性质有关。
理论分析
Huffman编码依赖于信源的统计特征,其背后的原理在于为出现频率高的字符分配尽可能短的码长,这样就可以降低平均码长:
\]
使得\(L\)最短的编码就是最优编码,可以证明Huffman编码是一种最优编码。
同时Huffman编码还是前缀码,简化了解码过程。
假设一种理想情况:源文件长\(len\)很大,共有\(m\)种不同字符,每个字符用8bits表示,并且每种字符出现频率\(\frac{len}{m}\)相同,忽略掉存储Huffman树等信息所需的空间。
这棵完全二叉树共有结点\(n=2*m-1\)个,那么树深度为\(h=1+\lfloor log_2n \rfloor\),每个字符的压缩长度为\(h-1=\lfloor log_2n \rfloor\),故压缩后的串长度为\(\frac{(h-1)*len}{8}\),可得压缩率\(\frac{h-1}{8}\),即:
\]
源文件中不同字符种类\(m\)越小,即源文件分布越集中,压缩效果越好。
如果和定长编码比较,可以得到压缩率:
\]
\(m\)取值256时,Huffman树是一棵满二叉树,压缩率为100%,并不比8位固定长度编码更高效。
收获
EOF和feof()
EOF是一个定义在cstdio头文件中的宏,一般为-1:
#define EOF (-1)
但是如果按照二进制读取文件,对于文件中的-1又该如何处理?
阮一峰的博客说:
在Linux系统之中,EOF根本不是一个字符,而是当系统读取到文件结尾,所返回的一个信号值(也就是-1)。至于系统怎么知道文件的结尾,资料上说是通过比较文件的长度。
我们通常会写出下面程序来读取文件:
int ch;
while ((ch = fgetc(fp)) != EOF) {
// your code here
}
但是fgetc()在到达文件结尾和发生读取错误的情况下都会返回EOF,所以上述代码不严谨,采用feof()函数来判断文件结尾:
int ch;
while (!feof(fp)) {
ch = fgetc(fp);
// your code here
}
但是采用feof()也有一个问题:读取最后一个字符后,feof()仍然返回0,进入循环,fgetc()再向后读取一个字符,feof()才返回1,这样程序会多循环一次。
所以比较安全的写法是:
int ch = fgetc(fp);
while (ch != EOF) {
// your code here
ch = fgetc(fp);
}
if (feof(fp))
puts("End-of-File reached.");
else
puts("Something went wrong.");
- 虚析构函数
基类的析构函数一般写成虚函数,做个测试:
class base {
public:
base() {};
virtual ~base() {
cout << "destructor in base" << endl;
};
virtual void f() {
cout << "f in base" << endl;
}
};
class derive :public base {
public:
derive() {};
~derive() {
cout << "destructor in derive" << endl;
};
void f() {
cout << "f in derive" << endl;
}
};
base* p = new derive;
p->f();
delete p;
输出:
f in derive
destructor in derive
destructor in base
如果基类的析构函数不是虚函数,输出:
f in derive
destructor in base
结果并没有调用派生类的析构函数,造成内存泄漏。
所以基类的虚析构函数的作用是:当一个基类指针删除一个派生类对象,确保调用派生类的析构函数。
- 二进制文件
在压缩过程中,对于不同格式源文件的读取都是采用二进制方式rb。
实际上二进制文件和文本文件并没有本质区别,你所看到的内容取决于打开文件的软件对二进制流的解释方式,文件扩展名帮助计算机知道应该用哪种解释方式,通常的文本文件的解释方式有ASCII码和Unicode码。
CompressIt的更多相关文章
- 使用zlib来压缩文件-用delphi描述
今天用到压缩文件的问题,找了一些网上的资料,后来发现了delphi自身所带的zlib单元,根据例子稍微改变了一些,使它能够符合所有的格式. 使用时,需要Zlib.pas和 Zlibconst.pas两 ...
- delphi 压缩
DELPHI 通过ZLib来压缩文件夹 unit Unit1; interface uses ZLib, Windows, Messages, SysUtils, Variants, Classes, ...
随机推荐
- python 爬虫之 urllib库
文章更新于:2020-03-02 注:代码来自老师授课用样例. 一.初识 urllib 库 在 python2.x 版本,urllib 与urllib2 是两个库,在 python3.x 版本,二者合 ...
- Typora+PicGo+GitHub实现md自带图床效果
1 GitHub创建作为图床的仓库 1.1 在GitHub中创建一个仓库 注意仓库要是public的,不然上传的图片还是无法使用的.如果不知道怎么创建仓库,可以百度一下. 1.2 在GitHub生成一 ...
- Python 1基础语法二(标识符、关键字、变量和字符串)
一.标识符 标识符就是程序员自己命名的变量名.名字需要有见名知义的效果,不要随意起名 :比如 a=1 a是个变量,a这个变量名属于标识符 1 company = '小米 2 employeeNum = ...
- sparkSessiontest
记事本内容: 打印结构: 方法1: object SparkSessionTest { case class Person(name:String,age:Int) def main(args: Ar ...
- 登陆ECP后,无法正常现实OU
当我们在ECP创建邮箱账户或者会议室的时候,发现无法预览所有OU信息 这是因为,默认情况下,Exchange只能识别到500个OU,如果要解决这个问题就需要我们到后端服务器修改配置文件 文件路径:C: ...
- ElasticSearch 常用查询语句
为了演示不同类型的 ElasticSearch 的查询,我们将使用书文档信息的集合(有以下字段:title(标题), authors(作者), summary(摘要), publish_date(发布 ...
- [科普向] Roguelike游戏到底是什么?
简单的说 Roguelike 是 RPG(角色扮演游戏)的一个分支,也是最重要的一个分支.这个名字源于 1980 年发布的著名电子游戏<Rogue>.按字面上理解,Roguelike 就是 ...
- 【python系统学习14】类的继承与创新
目录: 目录: [toc] 类的继承 子类和父类 继承的写法 继承示例 父类可以被无限个子类所继承 子类实例可调用父类属性和方法 类的始祖(根类) 根类 - object 实例归属判断 - isins ...
- 概率专题_概率/ 数学_基础题_ABEI
上周三讲了概率和概率dp.如果没有涉及其他综合算法,概率这种题主要是思维,先把这部分的东西写完 给个题目链接:https://vjudge.net/contest/365300#problem Hea ...
- ASP.NET Core中的Action的返回值类型
在Asp.net Core之前所有的Action返回值都是ActionResult,Json(),File()等方法返回的都是ActionResult的子类.并且Core把MVC跟WebApi合并之后 ...