论文笔记之：Instance-aware Semantic Segmentation via Multi-task Network Cascades

Instance-aware Semantic Segmentation via Multi-task Network Cascades

Jifeng Dai Kaiming He Jian Sun

本文的出发点是做Instance-aware Semantic Segmentation，但是为了做好这个，作者将其分为三个子任务来做：

1) Differentiating instances. 实例区分

2) Estimating masks.　　　　掩膜估计

3) Categorizing objects.　　 分类目标

通过这种分解，作者提出了如下的多任务学习框架，即：Multi-task Network Cascades (MNCs)，示意流程如下：

下面详细的介绍下这个流程，即：

1. Multi-task Network Cascades

1). Regressing Box-level Instances 

　　第一个阶段是回归出物体的bbox，这是一个全卷积的子网络。本文follow了Faster R-CNN的提取proposal的方法Region Proposal Networks (RPNs)。在共享feature之前，作者先用了一个 3*3的Conv 用于降维，紧跟着用2个1*1的Conv层回归出其位置，并且对目标进行分类。该阶段的loss function是：

其中，B是该阶段的输出，是一系列的box，B = { Bi }, Bi = { xi; yi; wi; hi; pi }，box的中心点和长宽分别是：xi yi wi hi, yi是物体的概率。

2). Regressing Mask-level Instances 

　　该阶段的输出是对每一个box的proposal进行像素级的mask分割。

　　  Given a box predicted by stage 1, we extract a feature of this box by Region-of-Interest (RoI) pooling . The purpose of RoI pooling is for producing a fixed-size feature from an arbitrary box, which is set as 14*14 at this stage.　(给定阶段1产生的box，我们用RoI pooling的方法提取该box的特征。用RoI pooling的原因是从一个任意的box中产生一个固定长度的feature。）

　　在每一个box的feature之后，添加两个fc层，第一个fc将维度降到256， 第二个fc 回归出像素级的mask。

　　第二阶段的loss function符合下面的形式：

　　其中，M是该阶段的输出，代表一系列的mask，M = { Mi }, Mi = m^2 维的逻辑回归输出（用sigmoid回归到 [0,1]）。该阶段的loss不仅依赖于M，而且依赖于B。

3). Categorizing Instances

　　给定第一阶段的box，也对其进行特征的提取。然后用第二阶段的mask估计进行二值化。这么做的好处是：this lead to a feature focused on the foreground of the prediction mask. 掩膜化的feature计算方式如下：

　　其中，元素级乘积的左边是RoI pooling之后的特征，右边是第二阶段的mask prediction. 可以看出乘积的结果Fi^Mask(*)依赖于Mi(*).将该feature输入给两路fc层。这是：mask-based pathway. 所给流程图中并未画出的一路是：box-based pathway，是将RoI pooling features直接输入到4096维的fc层。然后将mask-based pathway 和 box-based pathway 连接起来（concatenated）。紧接着是 N+1类的Softmax分类器，其中N类是物体，1类是背景。

　　第三个阶段的loss term是：

　　其中，C(*)是物体种类的预测结果。 

2. End-to-End Training

　　总的级联的损失函数定义为：

　　此处，该loss function并不像传统的multi-task learning，因为后一阶段的输入依赖于前一阶段的输出。例如：根据后向传播（BP）的链式法则，L2的梯度和B有关。对上述loss function采用链式法则的主要技术挑战在于：预测box Bi(*)决定RoI pooling的空间转换（spatial transformation）。对于RoI pooling层来说，其输入是预测的box B(*) 和 卷及特征映射 F(*)，这两者都是*的函数。

　　在Fast R-CNN中，the box proposal 都是预先计算的且是固定的。RoI pooling的回传仅仅和F(*)有关，但是这个仅仅在B(*)不出现的情况下才可以。在End-to-End的训练过程中，这两项的梯度都要考虑。

　　本节提出了可微分的RoI warping layer来解决梯度问题，即：预测的box的位置和对B(*)的依赖。

Differentiable RoI Warping Layers.

　　too many things, waiting for my understanding ... will add this part in the future ... 　　

　　sorry ...

Masking Layers. 

　　我们也需要计算设计 L3 的梯度，其依赖于B(*) 和 M(*)，有了differentiable RoI Warping module (Fi^RoI)，就可以通过元素级乘积模块来执行该操作。

　　有了这些东西，其余的都是一样的了，直接利用SGD就可以在caffe的框架下进行求解了。

 

3. Cascades with More Stages

　　本文参考Fast R-CNN的用class-wise bbox 回归出 (N+1)-way的分类器，在第三阶段，添加了 4(N+1)-d fc layer和分类器层是兄弟层。由于本文的目标不是box 而是 mask，所以作者将第三个阶段产生的 regressed boxes, 然后将这些boxes再看做是 proposals，然后在此基础上，再运行一次阶段2和3. 这实际上是一种5级的级联网络：

　　作者提到此处可以迭代的进行此处inference的过程，但是貌似精度并未有明显的提升。

4. 实验部分：