首页 > 代码库 > caffe框架下目标检测——faster-rcnn实战篇操作

caffe框架下目标检测——faster-rcnn实战篇操作

原有模型

1、下载fasrer-rcnn源代码并安装

git clone --recursive https://github.com/rbgirshick/py-faster-rcnn.git

1)  经常断的话,可以采取两步:

git clone https://github.com/rbgirshick/py-faster-rcnn.git

2)  到py-faster-rcnn中,继续下载caffe-faster-rcnn,采取后台跑:

git submodule update --init –recursive

2、编译cython模块

在py-faster-rcnn/lib目录下,运行以下命令:

Make

3、编译caffe和pycaffe

在py-faster-rcnn/caffe-faster-rcnn下,编译

make clean

make all –j16

make test

make runtest

注意:由于py-faster-rcnn使用python层,在Makefile.config中把WITH_PYTHON_LAYER:=1

我的环境会使用

4、下载模型:

Sh  data/scripts/fetch_faster_rcnn_models.sh

5、运行基于python的demo

执行以下命令:

Python tools/demo.py

6、下载训练、测试数据集

wget http://host.robots.ox.ac.uk/pascal/VOC/voc2007/VOCtrainval_06-Nov-2007.tar

wget http://host.robots.ox.ac.uk/pascal/VOC/voc2007/VOCtest_06-Nov-2007.tar

wget http://host.robots.ox.ac.uk/pascal/VOC/voc2007/VOCdevkit_08-Jun-2007.tar

 

tar xvf VOCtrainval_06-Nov-2007.tar

tar xvf VOCtest_06-Nov-2007.tar

tar xvf VOCdevkit_08-Jun-2007.tar

 

7、为了PASCAL VOC创建symlinks,创建软连接

ln -s VOCdevkit VOCdevkit2007

 

遇到的问题见caffe框架下目标检测——faster-rcnn实战篇问题集锦

 

工程目录介绍

 

caffe-fast-rcnn —> caffe框架

data —> 存放数据,以及读取文件的cache

experiments —>存放配置文件以及运行的log文件,配置文件

lib —> python接口

models —> 三种模型, ZF(S)/VGG1024(M)/VGG16(L)

output —> 输出的model存放的位置,不训练此文件夹没有

tools —> 训练和测试的python文件

 

训练模型需要修改的部分:

data —> 存放数据,以及读取文件的cache

models —> 三种模型, ZF(S)/VGG1024(M)/VGG16(L)

lib —> python接口

 

开始训练部分:

experiments —>存放配置文件以及运行的log文件,配置文件

 

用模型测试/实验结果部分:

tools —> 训练和测试的python文件

 

数据集

 

参考VOC2007的数据集格式,主要包括三个部分:

 

JPEGImages

Annotations

ImageSets/Main

JPEGImages —> 存放你用来训练的原始图像

 

Annotations —> 存放原始图像中的Object的坐标信息,XML格式

 

ImageSets/Main —> 指定用来train,trainval,val和test的图片的编号

 

JPEGImages

 

把图片放入,但是有三点注意:

 

编号要以6为数字命名,例如000034.jpg

图片要是JPEG/JPG格式的,PNG之类的需要自己转换下

图片的长宽比(width/height)要在0.462-6.828之间,就是太过瘦长的图片不要

0.462-6.828,总之长宽比太大或者太小的,注意将其剔除,否则可能会出现下面实验错误:

 

Traceback (most recent call last):

File “/usr/lib/python2.7/multiprocessing/process.py”, line 258, in _bootstrap

self.run()

File “/usr/lib/python2.7/multiprocessing/process.py”, line 114, in run

self._target(*self._args, **self._kwargs)

File “./tools/train_faster_rcnn_alt_opt.py”, line 130, in train_rpn

max_iters=max_iters)

File “/home/work-station/zx/py-faster-rcnn/tools/../lib/fast_rcnn/train.py”, line 160, in train_net

model_paths = sw.train_model(max_iters)

File “/home/work-station/zx/py-faster-rcnn/tools/../lib/fast_rcnn/train.py”, line 101, in train_model

self.solver.step(1)

File “/home/work-station/zx/py-faster-rcnn/tools/../lib/rpn/anchor_target_layer.py”, line 137, in forward

gt_argmax_overlaps = overlaps.argmax(axis=0)

ValueError: attempt to get argmax of an empty sequence

Google给出的原因是 Because the ratio of images width and heights is too small or large,这个非常重要

 

Annotations

 

faster rcnn训练需要图像的bounding box信息作为监督(ground truth),所以你需要将你的所有可能的object使用框标注,并写上坐标,最终是一个XML格式的文件,一个训练图片对应Annotations下的一个同名的XML文件

 

参考官方VOC的Annotations的格式:

<annotation>

    <folder>VOC2007</folder>#数据集文件夹

    <filename>009963.jpg</filename>#图片的name

    <source>#注释信息,无所谓有无

       <database>The VOC2007 Database</database>

       <annotation>PASCAL VOC2007</annotation>

       <image>flickr</image>

       <flickrid>65163277</flickrid>

    </source>

    <owner>#注释信息,无所谓有无

       <flickrid>Jez_P</flickrid>

       <name>Jeremy Pick</name>

    </owner>

    <size>#图片大小

       <width>374</width>

       <height>500</height>

       <depth>3</depth>

    </size>

    <segmented>0</segmented>

    <object>#多少个框就有多少个object标签

       <name>car</name>#bounding box中的object的class name

       <pose>Frontal</pose>

       <truncated>1</truncated>

       <difficult>0</difficult>

       <bndbox>

           <xmin>2</xmin>#框的坐标

           <ymin>3</ymin>

           <xmax>374</xmax>

           <ymax>500</ymax>

       </bndbox>

    </object>

</annotation>

这里有一个非常好用的工具VOC框图工具,可以自动帮你生成需要的XML格式,实际中发现格式基本无误,只有小的地方需要改动下

 

https://github.com/tzutalin/labelImg

 

Imagesets/Main

 

因为VOC的数据集可以做很多的CV任务,比如Object detection, Semantic segementation, Edge detection等,所以Imageset下有几个子文件夹(Layout, Main, Segementation),修改下Main下的文件 (train.txt, trainval.txt, val.txt, test.txt),里面写上你想要进行任务的图片的编号

 

将上述你的数据集放在py-faster-rcnn/data/VOCdevkit2007/VOC2007下面,替换原始VOC2007的JPEGIMages,Imagesets,Annotations

 

代码修改

 

修改源文件

 

faster rcnn有两种各种训练方式:

 

Alternative training(alt-opt)

Approximate joint training(end-to-end)

推荐使用第二种,因为第二种使用的显存更小,而且训练会更快,同时准确率差不多,两种方式需要修改的代码是不一样的,同时faster rcnn提供了三种训练模型,小型的ZFmodel,中型的VGG_CNN_M_1024和大型的VGG16,论文中说VGG16效果比其他两个好,但是同时占用更大的GPU显存(~11GB)

 

我使用的是VGG16 model + alternative training,需要检测的类别四类,加上背景所以总共是五类

1 、py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage1_fast_rcnn_train.pt

 

layer { 

  name: ‘data‘ 

  type: ‘Python‘ 

  top: ‘data‘ 

  top: ‘rois‘ 

  top: ‘labels‘ 

  top: ‘bbox_targets‘ 

  top: ‘bbox_inside_weights‘ 

  top: ‘bbox_outside_weights‘ 

  python_param { 

    module: ‘roi_data_layer.layer‘ 

    layer: ‘RoIDataLayer‘ 

    param_str: "‘num_classes‘: 5" #按训练集类别改,该值为类别数+1 

  } 

 

layer { 

  name: "cls_score" 

  type: "InnerProduct" 

  bottom: "fc7" 

  top: "cls_score" 

  param {

  lr_mult: 1.0

  } 

  param {

  lr_mult: 2.0

  } 

  inner_product_param { 

    num_output: 5 #按训练集类别改,该值为类别数+1 

    weight_filler { 

      type: "gaussian" 

      std: 0.01 

    } 

    bias_filler { 

      type: "constant" 

      value: 0 

    } 

  } 

 

layer { 

  name: "bbox_pred" 

  type: "InnerProduct" 

  bottom: "fc7" 

  top: "bbox_pred" 

  param {

  lr_mult: 1.0

  } 

  param {

  lr_mult: 2.0

  } 

  inner_product_param { 

    num_output: 20 #按训练集类别改,该值为(类别数+1)*4,四个顶点坐标 

    weight_filler { 

      type: "gaussian" 

      std: 0.001 

    } 

    bias_filler { 

      type: "constant" 

      value: 0 

    } 

  } 

 

2 、py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage1_rpn_train.pt

 

layer { 

  name: ‘input-data‘ 

  type: ‘Python‘ 

  top: ‘data‘ 

  top: ‘im_info‘ 

  top: ‘gt_boxes‘ 

  python_param { 

    module: ‘roi_data_layer.layer‘ 

    layer: ‘RoIDataLayer‘ 

    param_str: "‘num_classes‘: 5" #按训练集类别改,该值为类别数+1 

  } 

3、 py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage2_fast_rcnn_train.pt

 

layer { 

  name: ‘data‘ 

  type: ‘Python‘ 

  top: ‘data‘ 

  top: ‘rois‘ 

  top: ‘labels‘ 

  top: ‘bbox_targets‘ 

  top: ‘bbox_inside_weights‘ 

  top: ‘bbox_outside_weights‘ 

  python_param { 

    module: ‘roi_data_layer.layer‘ 

    layer: ‘RoIDataLayer‘ 

    param_str: "‘num_classes‘: 5" #按训练集类别改,该值为类别数+1 

  } 

 

layer { 

  name: "cls_score" 

  type: "InnerProduct" 

  bottom: "fc7" 

  top: "cls_score" 

  param {

  lr_mult: 1.0

  } 

  param {

  lr_mult: 2.0

  } 

  inner_product_param { 

    num_output: 5 #按训练集类别改,该值为类别数+1 

    weight_filler { 

      type: "gaussian" 

      std: 0.01 

    } 

    bias_filler { 

      type: "constant" 

      value: 0 

    } 

  } 

 

layer { 

  name: "bbox_pred" 

  type: "InnerProduct" 

  bottom: "fc7" 

  top: "bbox_pred" 

  param {

  lr_mult: 1.0

  } 

  param {

  lr_mult: 2.0

  } 

  inner_product_param { 

    num_output: 20 #按训练集类别改,该值为(类别数+1)*4,四个顶点坐标 

    weight_filler { 

      type: "gaussian" 

      std: 0.001 

    } 

    bias_filler { 

      type: "constant" 

      value: 0 

    } 

  } 

4 、py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage2_rpn_train.pt

 

layer { 

  name: ‘input-data‘ 

  type: ‘Python‘ 

  top: ‘data‘ 

  top: ‘im_info‘ 

  top: ‘gt_boxes‘ 

  python_param { 

    module: ‘roi_data_layer.layer‘ 

    layer: ‘RoIDataLayer‘ 

    param_str: "‘num_classes‘: 5" #按训练集类别改,该值为类别数+1 

  } 

5 、py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/faster_rcnn_test.pt

 

layer {

  name: "cls_score"

  type: "InnerProduct"

  bottom: "fc7"

  top: "cls_score"

  inner_product_param {

    num_output: 5#按训练集类别改,该值为类别数+1

  }

}

layer {

  name: "bbox_pred"

  type: "InnerProduct"

  bottom: "fc7"

  top: "bbox_pred"

  inner_product_param {

    num_output: 20#按训练集类别改,该值为(类别数+1)*4

  }

}

6、 py-faster-rcnn/lib/datasets/pascal_voc.py

 

class pascal_voc(imdb): 

    def __init__(self, image_set, year, devkit_path=None): 

        imdb.__init__(self, ‘voc_‘ + year + ‘_‘ + image_set) 

        self._year = year 

        self._image_set = image_set 

        self._devkit_path = self._get_default_path() if devkit_path is None \ 

                            else devkit_path 

        self._data_path = os.path.join(self._devkit_path, ‘VOC‘ + self._year) 

        self._classes = (‘__background__‘, # always index 0 

                         captcha‘ # 有几个类别此处就写几个,我是两个

                      ) 

line 212

 

cls = self._class_to_ind[obj.find(‘name‘).text.lower().strip()] 

 

如果你的标签含有大写字母,可能会出现KeyError的错误,所以建议全部使用小写字母

 

到此代码修改就搞定了

 

训练

 

训练前还需要注意几个地方

 

1 cache问题

 

假如你之前训练了官方的VOC2007的数据集或其他的数据集,是会产生cache的问题的,建议在重新训练新的数据之前将其删除

 

(1) py-faster-rcnn/output

(2) py-faster-rcnn/data/cache

 

2 训练参数

 

py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage_fast_rcnn_solver*.pt

 

base_lr: 0.001

lr_policy: ‘step‘

step_size: 30000

display: 20

....

迭代次数在文件py-faster-rcnn/tools/train_faster_rcnn_alt_opt.py中进行修改

 

line 80

 

max_iters = [80000, 40000, 80000, 40000]

分别对应rpn第1阶段,fast rcnn第1阶段,rpn第2阶段,fast rcnn第2阶段的迭代次数,自己修改即可,不过注意这里的值不要小于上面的solver里面的step_size的大小,大家自己修改吧

 

开始训练:

 

cd py-faster-rcnn

./experiments/scripts/faster_rcnn_alt_opt.sh 0 VGG16 pascal_voc

 

指明使用第一块GPU(0),模型是VGG16,训练数据是pascal_voc(voc2007),没问题的话应该可以迭代训练了

 

结果

 

训练完毕,得到我们的训练模型,我们就可以使用它来进行我们的object detection了,具体是:

1 将py-faster-rcnn/output/faster_rcnn_alt_opt/voc_2007_trainval/VGG16_faster_rcnn_final.caffemodel,拷贝到py-faster-rcnn/data/faster_rcnn_models下

 

2 将你需要进行test的images放在py-faster-rcnn/data/demo下

 

3 修改py-faster-rcnn/tools/demo.py文件

 

CLASSES = (‘_background_‘, ‘captcha‘) #参考你自己的类别写

 

NETS = {‘vgg16‘: (‘VGG16‘,

‘VGG16_faster_rcnn_final.caffemodel‘), #改成你训练得到的model的name

‘zf‘: (‘ZF‘,

‘ZF_faster_rcnn_final.caffemodel‘)

}

im_names = [‘1559.jpg‘,‘1564.jpg‘]  # 改成自己的test image的name

上几张我的检测结果吧

 技术分享                                   

技术分享

caffe框架下目标检测——faster-rcnn实战篇操作