日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 >

【神经网络架构】Pyramidal Convlution(PyConv):金字塔卷积,“即插即用“,提升你的网络性能

發布時間:2024/10/8 31 豆豆
生活随笔 收集整理的這篇文章主要介紹了 【神经网络架构】Pyramidal Convlution(PyConv):金字塔卷积,“即插即用“,提升你的网络性能 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

論文鏈接:https://arxiv.org/pdf/2006.11538.pdf
源碼鏈接:https://github.com/iduta/pyconv


今年論文提出很多在一般backbone上通過添加小模塊用于提升分類分割目標檢測等任務的精度。下面介紹DeepMind提出的Pyramidal Convolution:Rethinking Convolutional Neural Networks for Visual Recognition

Motivation

盡可能引入少的參數和計算代價,增大backbone的感受野

Method

類似Inception分支和ASPP模塊,提出使用不同卷積核的多分支網絡。與類似模塊大部分使用不同空洞卷積核的是PyConv提出使用分組卷積的思想。PyConv中多分支使用不同大小的卷積核,論文中包括33,55,77,99的卷積核。一般的,較小的卷積核感受野較小,可以得到小目標和局部細節信息。較大的卷積核感受野較大,可以得到大目標和全局語義信息。分組卷積是將輸入特征圖切分成不同組,使用卷積核獨立處理。論文中提出兩個版本,PyConv和PyHGConv。PyConv中使用相對較小的分組數,包括16,8,4,2。PyHGConv使用較大的分組數,包括32和64。在backbone結合時考慮到特征圖的空間尺寸減小,分支數逐漸減少。最初階段特征圖通過四個分支,最后階段特征圖僅使用一個分支。語義分割任務中在一般網絡中添加局部PyConv模塊和全局PyConv模塊。這兩個模塊都包括使用1*1卷積將通道數增加到512,后使用四分支的PyConv模塊,卷積核包括9,7,5,3,分組數分別為16,8,4,2。不同的是全局PyConv模塊需要使用Adaptive平均池化層減少特征圖大小同時提取全局特征。PyConv分支后使用上采樣恢復原始尺寸。之后將局部PyConv提取的特征和全局PyConv提取的特征合并。

Experiment

該模塊在ImageNet圖像分類數據集任務上表現如下:


近年知名插件比較如下:


該模塊在ADE20k語義分割數據集上表現如下:

總結

以上是生活随笔為你收集整理的【神经网络架构】Pyramidal Convlution(PyConv):金字塔卷积,“即插即用“,提升你的网络性能的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。