Xception论文阅读笔记
目錄
原文鏈接:
簡介:
網絡結構改進:
Xception架構:
結論:
原文鏈接:
Xception: Deep Learning with Depthwise Separable Convolutions
發表時間:2017年
來源:CVPR
作者:Fran?ois Chollet
簡介:
本文提出了一種叫做xception的架構,該架構受Inception的啟發,其中Inception模塊被深度可分離卷積代替。Xception架構與Inception V3具有相同的參數量,性能卻顯著優于Inception V3。
網絡結構改進:
- Xception 受Inception的啟發,是對 Inception-v3 的另一種改進。
- 作者做出假設:卷積神經網絡特征映射中交叉通道相關性和空間相關性的映射可以完全解耦。所以采用可分離卷積來替換原來 Inception-v3中的卷積操作。
(1)典型的Inception模塊(Inception V3)中,輸入同時經過幾個不同的特征提取結構進行特征提取,然后再做concat
?
(2)一個簡化的Inception模塊(除去Avg Pool結構)
(3)簡化的Inception模塊的嚴格等價重新配置
(4)Inception模塊的“極致”版本,1x1卷積的每個輸出通道具有一個空間卷積,即Xception
- Xception與深度可分離卷積的區別
(1)操作順序不同:通常實現的深度可分卷積執行第一個通道空間卷積,然后執行1x1卷積,而Inception首先執行1x1卷積。
(2)第一次操作后是否存在非線性:在Xception中,兩個操作之后都有深度方向的ReLU非線性,而深度可分離卷積通常在沒有非線性的情況下實現。
作者認為第一個區別并不重要,特別是因為這些操作旨在用于堆疊設置。第二個區別可能很重要。
Xception架構:
數據首先通過入口流,然后通過重復8次的中間流,最后通過出口流。請注意,所有的卷積和SeparableConvolution圖層都遵循批量歸一化BN(未包含在圖中)
結論:
(1)Xception 在 ImageNet 上,比 Inception-v3 的準確率稍高, 同時參數量有所下降
(2)在 Xception 中加入的類似 ResNet 的殘差連接機制顯著加快了Xception的收斂過程并獲得了顯著更高的準確率。
(3)在可分離卷積層的深度運算和逐點運算之間沒有任何非線性會導致更快的收斂和更好的性能
?
總結
以上是生活随笔為你收集整理的Xception论文阅读笔记的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Python图像处理工具——PIL、op
- 下一篇: MobileNet论文阅读笔记