（原）caffe中通过图像生成lmdb格式的数据

转载请注明出处：

http://www.cnblogs.com/darkknightzh/p/5909121.html

参考网址：

http://www.cnblogs.com/wangxiaocvpr/p/5096265.html

可以根据caffe-master\examples\imagenet \readme.md进行理解。

1 生成LmDB格式文件

caffe中通过图像生成lmdb格式文件的程序为examples/imagenet/create_imagenet.sh。该文件调用build/tools/convert_imageset（对应的源码为tools/convert_imageset.cpp）。

为了不改变原来的程序，在examples内新建testCreateLmDB文件夹。新建create_imagenet.sh，并输入：

 #!/usr/bin/env sh
 # Create the imagenet lmdb inputs
 # N.B. set the path to the imagenet train + val data dirsset -e

 EXAMPLE=examples/testCreateLmDB
 DATA=/home/xxx/database/CASIA
 TOOLS=build/tools

 TRAIN_DATA_ROOT=/home/xxx/database/CASIA/
 VAL_DATA_ROOT=/home/xxx/database/CASIA/

 # Set RESIZE=true to resize the images to 256x256. Leave as false if images have
 # already been resized using another tool.
 RESIZE=true
 if $RESIZE; then
   RESIZE_HEIGHT=
   RESIZE_WIDTH=
 else
   RESIZE_HEIGHT=
   RESIZE_WIDTH=
 fi

 if [ ! -d "$TRAIN_DATA_ROOT" ]; then
   echo "Error: TRAIN_DATA_ROOT is not a path to a directory: $TRAIN_DATA_ROOT"
   echo "Set the TRAIN_DATA_ROOT variable in create_imagenet.sh to the path" \
        "where the ImageNet training data is stored."
   exit
 fi

 if [ ! -d "$VAL_DATA_ROOT" ]; then
   echo "Error: VAL_DATA_ROOT is not a path to a directory: $VAL_DATA_ROOT"
   echo "Set the VAL_DATA_ROOT variable in create_imagenet.sh to the path" \
        "where the ImageNet validation data is stored."
   exit
 fi

 echo "Creating train lmdb..."

 GLOG_logtostderr= $TOOLS/convert_imageset \
     --resize_height=$RESIZE_HEIGHT \
     --resize_width=$RESIZE_WIDTH \
     --shuffle \
     $TRAIN_DATA_ROOT \
     $DATA/train_all.txt \
     $EXAMPLE/face_train_lmdb

 echo "Creating val lmdb..."

 #GLOG_logtostderr= $TOOLS/convert_imageset \
  #   --resize_height=$RESIZE_HEIGHT \
  #   --resize_width=$RESIZE_WIDTH \
 #    --shuffle \
 #    $VAL_DATA_ROOT \
 #    $DATA/val.txt \
  #   $EXAMPLE/face_val_lmdb

 echo "Done."

之后，在caffe根目录打开终端，并输入sh examples/testCreateLmDB/create_imagenet.sh

说明：

1) 程序第6行EXAMPLE为当前文件在caffe目录的相对路径。

2) 程序第7行DATA为train_all.txt所在的文件夹（如果train_all.txt就在TRAIN_DATA_ROOT文件夹内，则DATA和TRAIN_DATA_ROOT一样），如下图：

其中第一列为数据库中所有文件的文件名相对于数据库目录的位置，第二列为图像类别。

3) 第10行TRAIN_DATA_ROOT为训练数据的绝对路径。

4) 第11行VAL_DATA_ROOT为验证数据的绝对路径。

5) 程序第15行RESIZE为是否对图像进行缩放。如果直接读图像的话，可以使用

new_height: 128

new_width: 128

进行缩放。但是使用lmdb的话，貌似没办法在prototxt里面设置缩放，只能在创建lmdb数据库时，进行缩放。缩放时，更改程序17、18行的RESIZE_HEIGHT和RESIZE_WIDTH。经测试，如果不缩放的话，生成数据库大小为28.2G，缩放后，生成数据库大小为21.2G（此处和图像具体大小有关，给出数据只为了说明缩放应该在哪里设置。）

6. 程序第46行EXAMPLE/face_train_lmdb为生成的LmDB文件所在的路径。注意：EXAMPLE/oriface_train_lmdb文件夹最好为空，或者删除该文件夹，否则可能会提示：

2 生成mean.binaryproto文件

为了不更改源文件，在testCreateLmDB内新建make_imagenet_mean.sh，并输入：

 #!/usr/bin/env sh
 # Compute the mean image from the imagenet training lmdb
 # N.B. this is available in data/ilsvrc12

 EXAMPLE=examples/testCreateLmDB
 DATA=examples/testCreateLmDB
 TOOLS=build/tools

 $TOOLS/compute_image_mean $EXAMPLE/face_train_lmdb \
   $DATA/face_train_mean.binaryproto

 echo "Done."

说明：

1) 程序第3行EXAMPLE为当前程序所在目录（实际上为face_train_lmdb库文件所在目录。见第9行）。

2) 程序第4行DATA为需要生成的face_train_mean.binaryproto所在目录（见程序第10行）。

3) 生成的face_train_mean.binaryproto文件大小为192KB。