Deep TEN: Texture Encoding Network

纹理特征，材料分类（Material Classification），在MINC-2500、Flickr Material Database、KTH-TIPS-2b、4D-Light-Field-Material、GTOS上state-of-the-art（2017年）。

思想主要来源是：传统图片分类方法都是提取人工设计的特征（SIFT等）然后使用BOW进行编码，再用SVM进行分类，后面BOW被VLAD、Fisher Vector编码替换并融合CNN特征可以达到sota的效果。然而这样的方法有缺点，就是编码和特征的学习并不是end-to-end的，所以作者设计了一个learnable residual encoding layer。作者还提到一般的CNN的方法虽然在图片分类和物体识别上有比较好的效果，但是在纹理识别上表现并不理想，给出的理由是：

``` recognizing textures needs for a spatially invariant representation describing the feature distributions instead of concatenation ```

这篇论文的主要贡献：

1. learnable residual encoding layer。能够生成鲁棒的残差编码例如（VLAD和Fisher Vector），能接收任意的输入分辨率，并且生成固定长度的特征表示，这种编码方式非常适合pretrained feature的迁移。关于该层的一个后向传播可以看论文的附录A，给了很清楚的推导。一个前向计算如下公式：

2.将feature extraction, dictionary learning, encoding 融合成一个end-to-end的形式。

整个网络模型结构：

开源代码：

Pytorch：https://github.com/zhanghang1989/PyTorch-Encoding-Layer

FisherVector的教程：http://www.vlfeat.org/api/fisher-fundamentals.html

VLAD的教程：http://www.vlfeat.org/api/vlad-fundamentals.html