既然faster-rcnn原版發表時候是matlab版代碼，那就用matlab版代碼吧！不過遇到的坑挺多的，不知道python版會不會好一點。

======= update =========
總體上包括這些步驟，請注意檢查：
1 獲取數據；（標準數據集/比賽數據/自行收集數據）
2 整理圖片名和標注信息格式、指定訓練集和測試集；（轉voc格式，同時記得修改vocinit.m中類別信息；或者自己修改代碼中讀取數據的地方）
3 正確使用均值圖像：手動算一個或用默認的減去128,別用錯
4 選擇網絡與設定網絡參數(solver和net)；（根據業務需求和顯存大小設定；修改網絡中目標類別數量）
5 檢查batch_size；
6 檢查anchor；
7 清空cache目錄；
8 開始訓練；
9 確保電腦供電且不會休眠睡眠；
10 執行測試；整理測試結果
======= update =========

anyway，這里記錄一下我遇到的幾個坑

這里假設你已經配置好了faster-rcnn。我是在win10下配置的，顯卡GTX 970，使用ZF網絡。

0. 準備數據集

官方訓練時用的是voc2007系列數據，那就轉換成這個系列的好了，主要包括：0.下載數據集 1.整理圖片 2.xml格式的annotation文件 3.txt格式指定訓練集、測試集、驗證集、訓練驗證集，以及每個類別各自的這四種文件

0.0 下載數據集

看具體情況，比如做某個比賽，那就下載；如果是自己收集的數據集，那就統一放到一起

0.1 整理圖片

主要是圖片格式統一，比如都是png
以及，命名規范，比如統一是6位長度的數字：000001.png，并且序號是連續的
訓練圖片和測試圖片都放在一個JPEGImages目錄里

0.2 xml格式的annotation文件

其實voc2007這種方式：為每張圖片編寫一個xml文件，記錄圖片各種元信息（作者、文件名、寬度高度深度、來源），以及bounding box坐標信息（左上、右下定點）等，很蛋疼啊，圖片多的話每次處理xml文件讀寫I/O就增大了。anyway，遵守標準的好處是省的自己造各種工具。

這里貼一個例子好了，000001.xml:

<annotation><folder>VOC2007</folder><filename>000001.png</filename><source><database>My Database</database><annotation>VOC2007</annotation><image>flickr</image><flickrid>NULL</flickrid></source><owner><flickrid>NULL</flickrid><name>chriszz</name></owner><size><width>1280</width><height>720</height><depth>3</depth></size><segmented>0</segmented><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>369</xmin><ymin>403</ymin><xmax>409</xmax><ymax>418</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>434</xmin><ymin>375</ymin><xmax>443</xmax><ymax>401</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>461</xmin><ymin>368</ymin><xmax>471</xmax><ymax>395</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>571</xmin><ymin>473</ymin><xmax>593</xmax><ymax>490</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>674</xmin><ymin>470</ymin><xmax>683</xmax><ymax>478</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>693</xmin><ymin>471</ymin><xmax>714</xmax><ymax>480</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>976</xmin><ymin>413</ymin><xmax>998</xmax><ymax>438</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>1004</xmin><ymin>396</ymin><xmax>1011</xmax><ymax>410</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>1024</xmin><ymin>388</ymin><xmax>1031</xmax><ymax>405</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>1046</xmin><ymin>388</ymin><xmax>1071</xmax><ymax>406</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>1114</xmin><ymin>390</ymin><xmax>1143</xmax><ymax>410</ymax></bndbox></object><object><name>sign</name><pose>Unspecified</pose><truncated>0</truncated><difficult>0</difficult><bndbox><xmin>913</xmin><ymin>431</ymin><xmax>928</xmax><ymax>458</ymax></bndbox></object> </annotation>

記得所有xml文件的文件名要和圖片序號一一對應：000001.xml對應000001.png
并且，所有xml文件放到Annotations目錄中

0.3 txt文件指定訓練集、測試集等

在ImageSets/Main目錄下保存這些文件。比如我的任務是檢測交通標識，只有一個類別需要檢測，或者說是二分類問題，只需要判斷一個bbox區域是否為交通標識（sign），那么我創建sign對應的4個文件；以及4個表示總體的訓練、驗證、訓練驗證、測試的txt文件：

其中，sign_train、sign_test、sign_trainval、sign_val每行格式相同

圖片id(不帶后綴，不用全路徑） +1或-1（表示這張圖片中是否包含sign類別的區域）

對于我的情況，類別標簽都是+1

然后是train、val、trainval、test文件，其中trainval是train和val的拼接。

這里我是需要

1 修改faster-rcnn的幾個代碼細節

1.0 experiments\script_faster_rcnn_VOC2007_ZF.m第30、31行

這里默認居然是用select search生成region proposal，我也是醉了。
改成：

dataset = Dataset.voc2007_trainval(dataset, 'train', use_flipped); dataset = Dataset.voc2007_test(dataset, 'test', false);

1.1 experiments\+Dataset\voc2007_test.m第11行、第14行，test改成val

這個真的是太坑了，在這里我卡了大半天。為什么會卡在這個地方，然后程序一直運行出錯呢？以及，程序出錯大概如下：

錯誤使用 proposal_prepare_image_roidb>scale_rois (line 110) 兩個輸入數組的單一維度必須相互匹配，...

設斷點debug后發現，roidb_train里各種字段都有值（比如gt、坐標、閾值、類別等）；而roidb_val里面是空的。
實際上是在experiments\+Faster_RCNN_Train\do_proposal_train.m里面，把dataset.roidb_test賦值給roidb_val了：

function model_stage = do_proposal_train(conf, dataset, model_stage, do_val)if ~do_valdataset.imdb_test = struct();dataset.roidb_test = struct();endmodel_stage.output_model_file = proposal_train(conf, dataset.imdb_train, dataset.roidb_train, ...'do_val', do_val, ...'imdb_val', dataset.imdb_test, ...'roidb_val', dataset.roidb_test, ... # 尼瑪，在這里賦值了'solver_def_file', model_stage.solver_def_file, ...'net_file', model_stage.init_net_file, ...'cache_name', model_stage.cache_name); end

問題就是在這里了，不多說。那么接下來就是把experiments\+Dataset\voc2007_test.m第11行、第14行，test改成val，保證以后在imdb\cache目錄下有val的mat數據存在，roidb_val也不會說里面內容都為空的了。

2 修改網絡參數

看到下面這張圖應該知道要改那幾個文件了：

具體可以參考小咸魚的faster-rcnn matlab版的配置

總結

以上是生活随笔為你收集整理的【faster-rcnn】训练自己的数据集时的坑的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。