2. 程式人生 > >DeepLab V3+ 訓練自己的資料

DeepLab V3+ 訓練自己的資料

阿新 • • 發佈：2019-01-06

一、前提

官網程式碼：https://github.com/tensorflow/models/tree/master/research/deeplab 

1. 依賴

DeepLab依賴於以下庫：

  • Numpy
  • Pillow 1.0
  • tf Slim (which is included in the "tensorflow/models/research/" checkout)
  • Jupyter notebook
  • Matplotlib
  • Tensorflow1.6及以上

2. 將庫新增到PYTHONPATH

在本地執行時，tensorflow / models / research /和slim目錄應該附加到PYTHONPATH。 這可以通過在 tensorflow / models / research /路徑下執行以下命令來完成：

# From tensorflow/models/research/
export PYTHONPATH=$PYTHONPATH:`pwd`:`pwd`/slim

注意：每次啟用新終端，此命令都需要執行。 如果想避免手動執行，可以將其作為新行新增到〜/ .bashrc檔案的末尾。

3. 簡單測試

可以通過執行以下命令來測試是否已成功安裝 Tensorflow DeepLab：

執行 model_test.py 進行快速測試：

# From tensorflow/models/research/
python deeplab/model_test.py

在PASCAL VOC 2012資料集上快速執行整個程式碼：

# From tensorflow/models/research/deeplab
sh local_test.sh

local_tesr.sh 指令碼用於在PASCAL VOC 2012上執行本地測試。

之後在自己資料集上進行訓練等操作就可以參照 local_test.sh 來編輯指令。開啟指令碼看一下，發現它：

（1）執行了model_test.py

（2）執行了download_and_convert_voc2012.sh

（3）從model_zoo（http://download.tensorflow.org/models）下載了模型deeplabv3_pascal_train_aug

（4）執行了train.py

（5）執行了eval.py

（6）執行了vis.py

（7）執行了export_model.py

建議仔細閱讀上面提到的指令碼和程式，為以後訓練自己的資料提供參考。

錯誤1：

執行 model_test.py 進行快速測試時出錯：

參考 https://github.com/tensorflow/models/issues/5523

 將 model_test.py 中140行左右的：

self.assertListEqual(scales_to_model_results.keys(),

修改為：

self.assertListEqual(list(scales_to_model_results.keys()),

錯誤2：

測試程式需要執行eval.py，我在這裡出現了一個錯誤：

即：InvalidArgumentError (see above for traceback): assertion failed: [`predictions` out of bound] [Condition x < y did not hold element-wise:] [x (mean_iou/confusion_matrix/control_dependency_1:0) = ] [0 0 0...] [y (mean_iou/ToInt64_2:0) = ] [21]

參考https://github.com/tensorflow/models/issues/4203中trobr的說法：

修改 eval.py 中第145 行左右：

將：

metric_map = {}

metric_map[predictions_tag] = tf.metrics.mean_iou(

        predictions, labels, dataset.num_classes, weights=weights)

修改為：   也就是中間插入了幾行

 metric_map = {}

    # insert by trobr

    indices = tf.squeeze(tf.where(tf.less_equal(

        labels, dataset.num_classes - 1)), 1)

    labels = tf.cast(tf.gather(labels, indices), tf.int32)

    predictions = tf.gather(predictions, indices)

    # end of insert

    metric_map[predictions_tag] = tf.metrics.mean_iou(

        predictions, labels, dataset.num_classes, weights=weights)

二、資料準備 

參照VOC2012的檔案結構，把自己的資料和資料夾準備好。

參考download_and_convert_voc2012.sh進行資料轉化。

1. label圖修改（也許需要）

label圖應該是沒有色彩的，類別的畫素標記應該是0,1,2,3......

注意：不要把 ignore_label 和 background 混淆，ignore_label是沒有做標註的，不在預測範圍內的，ignore_label是不參與計算loss的。我們在mask中將 ignore_label 的灰度值標記為255，而background 標記為0。

如果是voc2012這種有colormap的標籤圖，可以利用remove_gt_colormap.py先去掉colormap：

# from research/deeplab/datasets
python remove_gt_colormap.py \
  --original_gt_folder="/path/SegmentationClass" \
  --output_dir="/path/SegmentationClassRaw"

其中， original_gt_folder是原始標籤圖資料夾，output_dir是要輸出的標籤圖資料夾的位置。

2. 資料轉換為tfrecord

# from research/deeplab/datasets
python build_voc2012_data.py \
  --image_folder="/path/JPEGImages" \
  --semantic_segmentation_folder="/path/SegmentationClassRaw" \
  --list_folder="/path/ImageSets/Segmentation" \
  --image_format="jpg" \
  --output_dir="/path/tfrecord"

其中，image_folder是jpg原圖資料夾，semantic_segmentation_folder是轉化後label圖資料夾，list_folder是train.txt、val.txt、trainval.txt所在的資料夾，output_dir是輸出資料存放的資料夾。

轉換後的資料儲存到tfrecord（tfrecord資料夾事先建好）。

三、訓練準備

1. 修改segmentation_dataset.py（註冊資料集）

（1）在這段程式碼註冊資料集，使我的資料集 voc_turbulent 擁有姓名：

_DATASETS_INFORMATION = {

    'cityscapes': _CITYSCAPES_INFORMATION,

    'pascal_voc_seg': _PASCAL_VOC_SEG_INFORMATION,

    'ade20k': _ADE20K_INFORMATION,

    'voc_turbulent': _VOC_TURBULENT_INFORMATION,

}

（2）參照程式碼中其他資料集形式，加入個人資料集描述配置：

訓練、檢測資料的數量修改好，類別數量也根據實際修改。

_VOC_TURBULENT_INFORMATION = DatasetDescriptor(

    splits_to_sizes={

        'train': 1413,

        'trainval': 2826,

        'val': 1413,

    },

    num_classes=21,

    ignore_label=255,

)

2. 修改train_utils.py

檔案修改如下：

將

exclude_list = ['global_step']

修改為：

exclude_list = ['global_step', 'logits']

作用是在使用預訓練權重時候，不載入該logit層。訓練自己的資料集時，此處進行修改。

四、訓練

模型從官網下載：https://github.com/tensorflow/models/blob/master/research/deeplab/g3doc/model_zoo.md

python deeplab/train.py \
  --logtostderr \
  --train_split="train" \
  --model_variant="xception_65" \
  --dataset="voc_turbulent" \#前面註冊的資料集名稱
  --atrous_rates=6 \
  --atrous_rates=12 \
  --atrous_rates=18 \
  --output_stride=16 \
  --decoder_output_stride=4 \
  --train_crop_size=513 \
  --train_crop_size=513 \
  --training_number_of_steps=90000  \
  --base_learning_rate=0.0001 \
  --num_clones=3 \#3塊顯示卡
  --train_batch_size=9 \#得是顯示卡數量的倍數哈
  --fine_tune_batch_norm=false \
  --initialize_last_layer=False \
  --last_layers_contain_logits_only=True \
  --tf_initial_checkpoint="/path/deeplabv3_pascal_train_aug/model.ckpt" \
  --train_logdir="/path/exp/train_on_train_set/train" \
  --dataset_dir="/path/tfrecord"

注意：

（1）學習率

 （2）batch size

（3）模型選擇及引數

（4）crop size 

（5）關於initialize_last_layer和last_layers_contain_logits_only

五、驗證 

python deeplab/eval.py \
  --logtostderr \
  --eval_split="val" \
  --model_variant="xception_65" \
  --dataset="voc_turbulent" \
  --num_clones=3 \#3塊顯示卡
  --atrous_rates=6 \
  --atrous_rates=12 \
  --atrous_rates=18 \
  --output_stride=16 \
  --decoder_output_stride=4 \
  --eval_crop_size=513 \
  --eval_crop_size=513 \
  --checkpoint_dir="/path/exp/train_on_train_set/train" \
  --eval_logdir="/path/exp/train_on_train_set/eval" \
  --dataset_dir="/path/tfrecord" \
  --max_number_of_evaluations=1

結果不是很好： 

六、視覺化

python deeplab/vis.py \
  --logtostderr \
  --vis_split="val" \
  --model_variant="xception_65" \
  --dataset="voc_turbulent" \
  --num_clones=3 \
  --atrous_rates=6 \
  --atrous_rates=12 \
  --atrous_rates=18 \
  --output_stride=16 \
  --decoder_output_stride=4 \
  --vis_crop_size=513 \
  --vis_crop_size=513 \
  --checkpoint_dir="/xxx/exp/train_on_train_set/train" \
  --vis_logdir="/xxx/exp/train_on_train_set/vis" \
  --dataset_dir="/xxx/tfrecord" \
  --max_number_of_iterations=1

七、預測單張圖片 

在deeplab_demo.ipynb的基礎上做些修改，為方便使用，給出網盤連結，使用時修改路徑即可。

連結：https://pan.baidu.com/s/16iffY6WkOwjRezttAuulFQ 
提取碼：06fy 
效果如下：

 

 

 

相關推薦

deeplab v3+訓練自己的資料集

資料集的製作及相關程式碼修改 原始碼連結：deeplab v3+ 筆者使用的是類似voc2012的資料集，最終的目的是進行語義分割。要想獲得這樣的資料集可以使用labelme進行標註，也可以使用PS進行處理。筆者使用了PS進行標註，生成了灰度圖。 為了方便，使用的資料集形式與官方資料

DeepLab V3+ 訓練自己的資料

一、前提 官網程式碼：https://github.com/tensorflow/models/tree/master/research/deeplab  1. 依賴 DeepLab依賴於以下庫： Numpy Pillow 1.0 tf Slim (whi

影象語義分割 DeepLab v3+ 訓練自己的資料集

環境：ubuntu 16.04 + TensorFlow 1.6.1 + cuda 9.0 + cudnn 7.0 +python2.7 tensorflow 專案連結 https://github.com/tensorflow/models.git下載後解壓，所需要的工程在

DeepLab V3+ 訓練ade20k資料集

仿造local_test.sh寫個local_ade20k_test.sh 將line45: download_and_convert_voc2012.sh => download_and_convert_ade20k.sh 將line51: PASCAL

YOLO v3 安裝並訓練自己資料

1. 安裝 YOLO v3的安裝與YOLO v2的安裝方法一樣 git clone https://github.com/pjreddie/darknet 直接使用上邊的命令下載YOLO安裝包。下載完以後，開啟進入到安裝包路徑內 cd darkn

實踐四：使用yolo-v3訓練自己的資料集

darknet安裝 官網安裝：https://pjreddie.com/darknet/install/ Darknet安裝相對caffe來說非常簡單。 Opencv和cuda作為選裝的部分，可以不安裝。推薦安裝這兩個，只有安裝的cuda才能使用gpu。只

使用pytorch版faster-rcnn訓練自己資料集

使用pytorch版faster-rcnn訓練自己資料集 引言 faster-rcnn pytorch程式碼下載 訓練自己資料集 接下來工作 參考文獻 引言 最近在復現目標檢測程式碼（師兄強烈推薦F

《錯誤手記-01》 facenet使用預訓練模型fine-tune重新訓練自己資料集報錯

環境資訊：windows10+python3.5+tensorflow1.6.0 問題描述： 在自己的訓練集上跑train_softmax.py.  引數： --logs_base_dir F:/work/runspace/log/  --models_base_

Kaldi中thchs30訓練自己資料集的步驟

一、資料準備過程 網上下載的thchs-openslr資料集需要換成自己的資料集，包含兩個資料夾：data_thchs30和resource。下面講解如何搞定這一部分。 資料集在data_thchs30檔案中，包含四個部分（data、train、dev、test）。 data資料夾中包

yolov3訓練自己資料集可參考文章

參考部落格原址： https://blog.csdn.net/u012966194/article/details/80004647 這篇文章將介紹編譯darknet框架開始，到整理資料集，到用yolo網路實現一個內部資料集中號碼簿的定

Yolov3訓練自己資料集+資料分析

訓練自己到資料集已經在上一篇文中說明過了，這一篇著重記錄一下資料分析過程 資料分析 1. mAP值計算 1)訓練完成後，執行darknet官方程式碼中到 detector valid 命令，生成對測試集到檢測結果，命令如下： ./darknet detector va

【YOLO初探】之 keras-yolov3訓練自己資料集

寫在前面 如何使用官方資料集參看上一篇文章《【YOLO初探】之 使用官方資料集做目標分類》 傳送門：https://blog.csdn.net/plSong_CSDN/article/details/85108256 這裡，筆者使用了260張訓練資料，完成了人臉中“眼睛”、“鼻子”、“嘴

YOLOv2目標檢測_單目標_訓練自己資料全過程（自用）

1.    製作符合要求的VOC資料集 目標：製作如下格式的資料夾 格式： --VOC2017（大寫字母+數字） --Annotations（存放儲存標註資訊的xml） --ImageSets --Main（存放儲存圖片名的train.txttest.txt） --Layo

Fast RCNN 訓練自己資料集 (1編譯配置)

FastRCNN 訓練自己資料集 (1編譯配置) FastRCNN是Ross Girshick在RCNN的基礎上增加了Multi task training整個的訓練過程和測試過程比RCNN快了許多。別的一些細節不展開，過幾天會上傳Fast RCNN的論文筆記。FastRCNN mAP效能上略有上升。Fa

YOLOv3在訓練自己資料集時的速度慢問題

YOLOv3以速度快著稱，但是在訓練自己的資料集時發現儘管在命令中同時開啟了多塊gpu，但速度仍舊很慢。按照其他人的訓練日誌可以看出64batch的單gpu訓練，每次迭代大約需要不到1秒但是自己在訓練時卻需要好幾個小時，首先想到的是自己的資料集是否圖片解析度太高，比較之後發現

FCN訓練自己資料集（person-segmentation）、SIFT-FLOW、SBD和VOC實驗總結

最近花了將近一週的時間，基於提供的原始碼，通過參考網上的部落格，跑通了FCN在三個資料集上的訓練以及測試。在這裡寫下總結，即是記錄，又希望能夠對其他剛剛接觸FCN的人有所幫助。 FCN的原始碼地址：https://github.com/shelhamer/fcn.berkeleyvision.o

windows10+GPU下caffe資料集Lmdb格式製作+訓練自己資料集

最近做人臉識別專案，想用到caffe訓練自己的資料，電腦作業系統為win10+GPU,這裡對caffe-windows配置、資料集製作、訓練資料都做一些介紹。（無GPU配置的看我這個部落格）。如果你用的是vs2015，那麼下面介紹的caffe不適合，要用BVLC wind

如何利用caffe訓練自己資料集

這篇博文主要參考了另一位博主https://blog.csdn.net/hellohaibo，在此向他表示感謝 首先，博主今天的caffe崩了，毫無徵兆的崩了，具體表現為博主想做一個更大的資料集，但是在生成lmbd檔案時永遠生成的是一個沒有名字的資料夾，可是博主已經在指定的example目錄裡寫了

Faster-RCNN 訓練自己資料集的坑記錄

主要照這篇部落格進行訓練配置，因為沒有GPU所以好多坑，CPU訓練可以參見這篇部落格 正所謂，跑通了的都一樣，錯誤千萬樣。按照教程來也是坑多 訓練： python train_faster_rcnn_alt_opt.py --net_name ZF --weights

FastRCNN 訓練自己資料集（二）——修改讀寫介面

這裡樓主講解了如何修改Fast RCNN訓練自己的資料集，首先請確保你已經安裝好了Fast RCNN的環境，具體的編配編制操作請參考我的上一篇文章。首先可以看到fast rcnn的工程目錄下有個Lib目錄這裡下面存在3個目錄分別是：datasetsfast_rcnnroi_d