结构

压缩软件的核心在于压缩算法。基于Huffman编码的压缩算法思路:

  1. 二进制方式读取源文件,按照每8bits作为一个字符;
  2. 统计每个字符的出现频率即为叶子结点的权值,按照Huffman算法得到每个叶子的编码;
  3. 对源文件的每个字符,将新的编码组合为二进制流,按照每8bits一个单位写入压缩文件。

举例来看:

假设我们有待压缩源文件helloh的ASCII码为01101000,同理可得整个文件的二进制形式0110100001100101011011000110110001101111,共5B,40bits。

根据Huffman算法:得到h的编码为00,同理可得整个文件的Huffman编码为0001111110,末尾不够8bits,采用补0的方法可得0001111110000000,按照每8bits一个单位,写入压缩文件的是31255对应的字符,共2B,16bits。

解压缩流程是压缩的逆过程:

  1. 二进制方式读取压缩文件;
  2. 每次取1bit,从Huffman树的根结点出发,找到某个叶子即为源字符。

效果

做一个简单的比较:

压缩软件 测试文件 压缩率 测试文件 压缩率
CompressIt txt(840B) 70.4% png(282KB) 101%
WinRaR txt(840B) 14.4% png(282KB) 100%

压缩率和压缩时间和专业软件没法比。之所以出现压缩文件大于源文件,是因为压缩文件中还存储了Huffman树等信息,为解压所需。

对于不同内容的文件,得到的压缩文件大小也不尽相同,这主要与Huffman编码的性质有关。

理论分析

Huffman编码依赖于信源的统计特征,其背后的原理在于为出现频率高的字符分配尽可能短的码长,这样就可以降低平均码长:

\[L=\Sigma p_il_i
\]

使得\(L\)最短的编码就是最优编码,可以证明Huffman编码是一种最优编码。

同时Huffman编码还是前缀码,简化了解码过程。

假设一种理想情况:源文件长\(len\)很大,共有\(m\)种不同字符,每个字符用8bits表示,并且每种字符出现频率\(\frac{len}{m}\)相同,忽略掉存储Huffman树等信息所需的空间。

这棵完全二叉树共有结点\(n=2*m-1\)个,那么树深度为\(h=1+\lfloor log_2n \rfloor\),每个字符的压缩长度为\(h-1=\lfloor log_2n \rfloor\),故压缩后的串长度为\(\frac{(h-1)*len}{8}\),可得压缩率\(\frac{h-1}{8}\),即:

\[\alpha=\frac{\lfloor log_2(2*m-1) \rfloor}{8}
\]

源文件中不同字符种类\(m\)越小,即源文件分布越集中,压缩效果越好。

如果和定长编码比较,可以得到压缩率:

\[\alpha=\frac{\lfloor log_2(2*m-1) \rfloor}{\lceil log_2(m) \rceil}
\]

\(m\)取值256时,Huffman树是一棵满二叉树,压缩率为100%,并不比8位固定长度编码更高效。

收获

  • EOFfeof()

    EOF是一个定义在cstdio头文件中的宏,一般为-1:
#define EOF (-1)

但是如果按照二进制读取文件,对于文件中的-1又该如何处理?

阮一峰的博客说:

在Linux系统之中,EOF根本不是一个字符,而是当系统读取到文件结尾,所返回的一个信号值(也就是-1)。至于系统怎么知道文件的结尾,资料上说是通过比较文件的长度。

我们通常会写出下面程序来读取文件:

int ch;
while ((ch = fgetc(fp)) != EOF) {
// your code here
}

但是fgetc()在到达文件结尾和发生读取错误的情况下都会返回EOF,所以上述代码不严谨,采用feof()函数来判断文件结尾:

int ch;
while (!feof(fp)) {
ch = fgetc(fp);
// your code here
}

但是采用feof()也有一个问题:读取最后一个字符后,feof()仍然返回0,进入循环,fgetc()再向后读取一个字符,feof()才返回1,这样程序会多循环一次。

所以比较安全的写法是:

int ch = fgetc(fp);
while (ch != EOF) {
// your code here
ch = fgetc(fp);
}
if (feof(fp))
puts("End-of-File reached.");
else
puts("Something went wrong.");
  • 虚析构函数

    基类的析构函数一般写成虚函数,做个测试:
class base {
public:
base() {};
virtual ~base() {
cout << "destructor in base" << endl;
}; virtual void f() {
cout << "f in base" << endl;
}
}; class derive :public base {
public:
derive() {};
~derive() {
cout << "destructor in derive" << endl;
}; void f() {
cout << "f in derive" << endl;
}
}; base* p = new derive;
p->f();
delete p;

输出:

f in derive
destructor in derive
destructor in base

如果基类的析构函数不是虚函数,输出:

f in derive
destructor in base

结果并没有调用派生类的析构函数,造成内存泄漏。

所以基类的虚析构函数的作用是:当一个基类指针删除一个派生类对象,确保调用派生类的析构函数

  • 二进制文件

    在压缩过程中,对于不同格式源文件的读取都是采用二进制方式rb

    实际上二进制文件和文本文件并没有本质区别,你所看到的内容取决于打开文件的软件对二进制流的解释方式,文件扩展名帮助计算机知道应该用哪种解释方式,通常的文本文件的解释方式有ASCII码和Unicode码。

CompressIt的更多相关文章

  1. 使用zlib来压缩文件-用delphi描述

    今天用到压缩文件的问题,找了一些网上的资料,后来发现了delphi自身所带的zlib单元,根据例子稍微改变了一些,使它能够符合所有的格式. 使用时,需要Zlib.pas和 Zlibconst.pas两 ...

  2. delphi 压缩

    DELPHI 通过ZLib来压缩文件夹 unit Unit1; interface uses ZLib, Windows, Messages, SysUtils, Variants, Classes, ...

随机推荐

  1. 以数字资产模型为核心驱动的一站式IoT数据分析实践

    [摘要] 一个不会直播的云服务架构师,不是一个好的攻城狮! 在这个全民直播的时代 一个不会直播的云服务架构师 不是一个好的攻城狮 3月23日15:00-15:50,华为云IoT物联网数据分析服务架构师 ...

  2. TC1.6SourceCode java课程表

    /** * @version 2.0 * @author sharks */ /** * Instruction * this version will use IO * apply file to ...

  3. django中设置定时任务

    django中设置定时任务 在django中设置定时任务我们可以借用django-crontab这个第三包来实现 django-crontab只能在linux系统下使用 安装: pip install ...

  4. go 反射包

    一.什么是反射? 反射是用程序检查其所拥有的结构,尤其是类型的一种能力: 二.Printf Printf 的函数声明为: func Printf(format string, args ... int ...

  5. spark本地开发环境搭建及打包配置

    在idea中新建工程 删除新项目的src,创建moudle 在父pom中添加spark和scala依赖,我们项目中用scala开发模型,建议scala,开发体验会更好(java.python也可以) ...

  6. SolrCloud(solr集群+zookeeper集群)

    一.集群介绍 1.  什么是SolrCloud SolrCloud(solr 云)是Solr提供的分布式搜索方案,当你需要大规模,容错,分布式索引和检索能力时使用 SolrCloud.当一个系统的索引 ...

  7. java的图形化界面 文本区JTextArea的程序例子

    package java1;     //使用时这个改成你的包名即可//文本区 JTextArea import javax.swing.*;import java.awt.*;import java ...

  8. 自动补全、回滚!介绍一款可视化 sql 诊断利器

    Yearning简介 ================= Yearning MYSQL 是一个SQL语句审核平台.提供查询审计,SQL审核等多种功能,支持Mysql,可以在一定程度上解决运维与开发之间 ...

  9. ModuleNotFoundError: No module named 'sklearn.cross_validation'

    本文为CSDN博主「不服输的南瓜」的原创文章,遵循 CC 4.0 BY-SA 版权协议 原文链接 ModuleNotFoundError: No module named 'sklearn.cross ...

  10. 五分钟!用python绘制漂亮的系统架构图

    Diagrams 是一个基于Python绘制云系统架构的模块,它能够通过非常简单的描述就能可视化架构,并支持以下6个云产品的图标: AWS.Azure.GCP.K8s.阿里云 和 Oracle 云 基 ...