Huffman

huffman是非常基础的压缩算法。

实现霍夫曼树的方式有很多种，可以使用优先队列（Priority Queue）简单达成这个过程，给与权重较低的符号较高的优先级（Priority），算法如下：

⒈把n个终端节点加入优先队列，则n个节点都有一个优先权Pi，1 ≤ i ≤ n
⒉如果队列内的节点数>1，则：

⑴从队列中移除两个最大的Pi节点，即连续做两次remove(max(Pi), Priority_Queue)
⑵产生一个新节点，此节点为（1）之移除节点之父节点，而此节点的权重值为（1）两节点之权重和
⑶把（2）产生之节点加入优先队列中
⒊最后在优先队列里的点为树的根节点（root）

而此算法的时间复杂度（ Time Complexity）为O（n log n）；因为有n个终端节点，所以树总共有2n-1个节点，使用优先队列每个循环须O（log n）。
此外，有一个更快的方式使时间复杂度降至线性时间（Linear Time）O(n)，就是使用两个队列（Queue）创件霍夫曼树。第一个队列用来存储n个符号（即n个终端节点）的权重，第二个队列用来存储两两权重的合（即非终端节点）。此法可保证第二个队列的前端（Front）权重永远都是最小值，且方法如下:

⒈把n个终端节点加入第一个队列（依照权重大小排列，最小在前端）
⒉如果队列内的节点数>1，则:

⑴从队列前端移除两个最低权重的节点
⑵将（1）中移除的两个节点权重相加合成一个新节点
⑶加入第二个队列
⒊最后在第一个队列的节点为根节点

虽然使用此方法比使用优先队列的时间复杂度还低，但是注意此法的第1项，节点必须依照权重大小加入队列中，如果节点加入顺序不按大小，则需要经过排序，则至少花了O（n log n）的时间复杂度计算。
但是在不同的状况考量下，时间复杂度并非是最重要的，如果我们今天考虑英文字母的出现频率，变量n就是英文字母的26个字母，则使用哪一种算法时间复杂度都不会影响很大，因为n不是一笔庞大的数字。

 #include <iostream>
 #include <algorithm>
 #include <unordered_map>
 #include <vector>
 #include <queue>
 #include <fstream>
 #include <sstream>
 #include <string>

 using namespace std;

 class Huffman {
     public:
         Huffman() {}
         ~Huffman() {
             freeTree(root);
         }

         void init(string filename) {
             ifstream in(filename.c_str());
             string line;
             while(getline(in, line)) {
                 stringstream ss(line);
                 char symbol;
                 float p;
                 ss >> symbol >> p;
                 symbolInfo.push_back(new Node(symbol, p));
             }
             root = buildTree2();
             generateCodes(root, "");
         }

         void print() const {
             for (auto it = codes.begin(); it != codes.end(); ++it) {
                 cout << it->first << ": " << it->second << endl;
             }
         }

         string encode(string input) {
             stringstream ans;
             for (int i = ; i < input.length(); ++i) {
                 ans << codes[input[i]];
             }
             return ans.str();
         }

         string decode(string input) {
             if (root == NULL) return "";
             stringstream ans;
             for (int i = ; i < input.length(); ) {
                 Node* p = root;
                 for ( ; p != NULL; ++i) {
                     if (p->left == NULL && p->right == NULL) {
                         ans << p->symbol;
                         break;
                     }
                     if (input[i] == '') {
                         p = p->left;
                     } else if (input[i] == '') {
                         p = p->right;
                     } else {
                         return "";
                     }
                 }
             }
             return ans.str();
         }
     private:
         struct Node {
             char symbol;
             float p;
             Node* left;
             Node* right;
             Node(char s, float p, Node* l = NULL, Node* r = NULL):symbol(s), p(p), left(l), right(r) {}
         };

         static bool nodeCompare(Node* n1, Node* n2) {
             return n1->p > n2->p;
         }

         // O(nlgn)
         Node* buildTree() {
             if (symbolInfo.empty()) return NULL;
             make_heap(symbolInfo.begin(), symbolInfo.end(), nodeCompare);
             while (symbolInfo.size() > ) {
                 // get the smallest
                 Node* n1 = symbolInfo.front();
                 pop_heap(symbolInfo.begin(), symbolInfo.end(), nodeCompare);
                 symbolInfo.pop_back();
                 // get the second smallest
                 Node* n2 = symbolInfo.front();
                 pop_heap(symbolInfo.begin(), symbolInfo.end(), nodeCompare);
                 symbolInfo.pop_back();

                 Node* n3 = new Node('@', n1->p + n2->p, n1, n2);
                 symbolInfo.push_back(n3);
                 push_heap(symbolInfo.begin(), symbolInfo.end(), nodeCompare);
             }
             return symbolInfo[];
         }

         class Comparator {
             public:
             bool operator() (const Node* n1, const Node* n2) const {
                 return n1->p > n2->p;
             }
         };

         Node* buildTree2() {
             if (symbolInfo.empty()) return NULL;
             priority_queue<Node*, vector<Node*>, Comparator> queue(symbolInfo.begin(), symbolInfo.end());
             while (queue.size() > ) {
                 Node* n1 = queue.top();
                 queue.pop();
                 Node* n2 = queue.top();
                 queue.pop();
                 Node* n3 = new Node('@', n1->p + n2->p, n1, n2);
                 queue.push(n3);
             }
             return queue.top();
         }

         void freeTree(Node* p) {
             if (p == NULL) return;
             freeTree(p->left);
             freeTree(p->right);
             delete p;
             p = NULL;
         }

         void generateCodes(Node* p, string str) {
             if (p == NULL) return;
             if (p->left == NULL && p->right == NULL) {
                 codes[p->symbol] = str;
             }

             generateCodes(p->left, str + "");
             generateCodes(p->right, str + "");
         }

         vector<Node*> symbolInfo;
         unordered_map<char, string> codes;
         Node* root;
 };

 int main() {
     Huffman huffman;
     huffman.init("input.txt");
     huffman.print();

     string str = "abcdabcdab";
     string encode = huffman.encode(str);
     cout << str << endl << encode << endl;
     cout << huffman.decode(encode) << endl;
     return ;
 }

这里用了stl的make_heap之类的函数，也尝试用priority_queue。但是两指重构的比较器的形式不同。注意priority_queue的比较器是作为模板参数传进去的，而且是定义成类。

可以用两个简单队列实现O(n)的算法，前提是一开始频率已经排好序。用vector是可以模拟queue，但是pop_front()的效率比较低。

huffman的正确性证明可以看这篇：http://mindhacks.cn/2011/07/10/the-importance-of-knowing-why-part3/，讲得相当清晰了。