ssd遇到的bug

从训练一开始就loss为0：

最开始以为是在生成train.lmdb前没有对label_map进行修改，发现并不是这个问题

1.训练的命令是：python ./examples/ssd/ssd_pascal.py

运行ssd_pascal.py后，会在ssd/caffe/下生成jobs文件夹，并在子目录下生成以下文件：

ssd_pascal.py主要作用就是这些用来训练的文件，真正运行训练的是最后几段代码：

这段代码实际运行的就是VGG_VOC2007_SSD_300x300.sh：

我先把~/ssd/caffe/examples/ssd/ssd_pascal.py里的solver_param的bug_info置为true进行调试：

调试的结果如下图：

可以看到最后一个forward（mbox_loss层）为0，这个就是训练网络最终的loss输出。如下图，mbox_loss层的输入为：

bottom: "mbox_loc"
bottom: "mbox_conf"
bottom: "mbox_priorbox"
bottom: "label"

可以看到mbox_loc，mbox_conf，mbox_priorbox层都有输入，好像label也是有输入的

这个时候就要去调试mbox_loss层看到底是什么造成了输出loss为0。

mbox_loss层的输出如下图，这两个if语句都要执行，loc_loss_为0，所以输出为０：

定位loc_loss_代码如下图，num_matches为０，所以loc_loss_也为０

定位num_matches代码如下图

MineHardExamples函数在bbox_util.cpp定义实现，num_matches由CountNumMatches函数来得到

下面是CountNumMatches的代码：

match_indices的size为0，所以后面两个for循环都不会执行。所以问题处在all_match_indices，all_match_indices又直接来自于MineHardExamples，所以返回看MineHardExamples。

MineHardExamples的all_match_indices来自于FindMatches，FindMatches也定义在bbox_util.cpp，如下图：

经过调试发现，FindMatches的all_gt_bboxes出错，按照作者注释：There is no gt for current image. All predictions are negative.

all_gt_bboxes来自于mbox_loss层GetGroundTruth函数：

经调试发现item_id为-1，所以gt_data出现了错误，gt_data来自于ｂｏｔｔｏｍ[3]，如下图：

ｂｏｔｔｏｍ[3]的数据是直接来自于ｄａｔａ层（即ａｎｎｏｔａｔｅｄ_data_layer层），传来的是从数据集得到的ｌａｂｅｌ数据，所以去看ａｎｎｏｔａｔｅｄ_data_layer层。

要注意一个问题， mbox_loss层的ｂｏｔｔｏｍ[3]其实是ａｎｎｏｔａｔｅｄ_data_layer的ｔｏｐ[1]，即ｌａｂｅｌ。在ａｎｎｏｔａｔｅｄ_data_layer.cpp中查找ｔｏｐ[1]，只有一个，涉及到top[1]的代码如下：

这一部分只是确定形状，真正载入数据的应该是load_batch的这一部分：

即Transform函数，Transform函数来自data_transformer.cpp，Transform函数最终又可以定位到TransformAnnotation函数，TransformAnnotation函数中的ProjectBBox(crop_bbox, resize_bbox, &proj_bbox)返回为ｆａｌｓｅ，ProjectBBox来自于bbox_util：

调试发现ｂｂｏｘ的ｘｍｉｎ，ｘｍａｘ，ｙｍｉｎ，ｙｍａｘ都为０，这和第二个过程寻找ｂｕｇ的结果一样了：

后面还有很多自己继续看的源码，但实际上都不能直接解决问题。其实仔细思考，既然知道了从数据集读取的ｌａｂｅｌ有问题，那就直接定位数据读取的问题，直接调到第二个过程，而不是一而再再而三的往里面看源码，有点浪费时间。

2.第一个过程花费了很多时间看代码，依旧没能快速定位。尝试用一张图去跑程序，发现bug依旧存在。由第一个过程发现label为空想到应该可能是数据读取出现错误，所以将bug定位在数据读取部分。caffe读取的是lmdb数据库，自己的数据集是VOC格式的，所以需要将VOC转换为lmdb，步骤是先后使用create_list.sh和create_data.sh，create_data.sh就生成了lmdb。

看了一下create_list.sh生成的文件，感觉没什么问题，就去看create_data.sh。create_data.sh需要create_annoset.py，转去看create_annoset.py。create_annoset.py中使用了convert_annoset（cmd = "{}/build/tools/convert_annoset"），转去看convert_annoset。convert_annoset.cpp中使用了ReadRichImageToAnnotatedDatum函数，这个函数来自于io.cpp，转去看io.cpp。io.cpp中的ReadRichImageToAnnotatedDatum函数有ReadXMLToAnnotatedDatum函数，这个函数是读取xml文件的，转去看这个函数。

函数中有这样一段代码，这个时候就想到了在第一阶段看到的xmax为0，ymax为0。

LOG输出看结果，这里的xmax和ymax也都为0。这说明从xml文件读取坐标时就出了错误。想一想本身代码应该不会有错，那就是我的xml文件有错，检查了很久发现xml文件格式没有错误。最后尝试将小数换成整数，发现就能正常读取这些坐标，loss的bug也解决了。

查阅资料，boost::property tree读取解析.xml文件的get函数有以下3种形式，把三种形式拿来调试：

下图是xml坐标为整数时的情况：

下图是xml坐标为浮点数的情况：

可以发现，为整数3种方式都可以，为小数的话，只能用float。想要实现浮点数坐标，就需要修改成以下形式：

并且你可以看到读取之后，就把这些坐标进行了回归处理：

自己用datum.py读取的程序，修改bug后那个依旧是不对的

https://www.baidu.com/s?ie=utf-8&f=8&rsv_bp=1&rsv_idx=1&tn=baidu&wd=caffe%20detum&oq=datum%2520%25E6%2580%258E%25E4%25B9%2588%25E8%25AF%25BB&rsv_pq=cc56a2d200019cbb&rsv_t=d64chi4v5Hx3yBvu2spt16z0COREoG%2BSu1dt8AMBR%2Fa%2BdSExcqbrUwDUuOs&rqlang=cn&rsv_enter=1&inputT=4482&rsv_sug3=72&rsv_sug1=37&rsv_sug7=100&rsv_sug2=0&rsv_sug4=6527

https://zhuanlan.zhihu.com/p/23485774

http://blog.csdn.net/change_things/article/details/53158217

那个在等号前面的&引用

之所以不能LOG出来，是因为前面那个是一个datum类，不是int 或者float类型