【星球知识卡片】移动端高效率的分组网络都发展到什么程度了？
大家好，歡迎來到我們的星球知識(shí)小卡片專欄，本期給大家分享分組卷積網(wǎng)絡(luò)模型的發(fā)展現(xiàn)狀。
作者&編輯 | 言有三
1 卷積拆分的高效
我們常見的卷積是一個(gè)二維的操作，即一個(gè)卷積核在圖像上進(jìn)行滑動(dòng)。如果再考慮上各個(gè)通道間的信息融合，那么就是一個(gè)三維的操作，包含了通道，寬度，高度三個(gè)維度。如果將各個(gè)維度進(jìn)行拆分呢？會(huì)不會(huì)更加高效？
2 分組卷積萌芽
Laurent Sifre在Google實(shí)習(xí)的時(shí)候提出了depthwise separable convolution，從此分組卷積在模型設(shè)計(jì)中開始萌芽。
3 從Inception到Xception
Google提出的多尺度，更寬的InceptionNet取得了2014年ImageNet競(jìng)賽的冠軍，比同期的VGG更深但是卻更小，速度更快。Xception則將Inception的思想發(fā)揮到了極致，揭開了分組卷積大規(guī)模應(yīng)用的序幕。
4 分組卷積基準(zhǔn)
對(duì)于大部分同學(xué)來說，知道分組卷積就是從MobileNet開始的，它也是當(dāng)前最重要的分組卷積基準(zhǔn)模型。
5 多尺度分組網(wǎng)絡(luò)
分組卷積模型的各個(gè)分支可以使用不同大小的卷積核，其中典型代表就是SqueezeNet。SqueezeNet是一個(gè)非常高效率的模型，它將AlexNet模型壓縮到原來1/50，同時(shí)保證性能幾乎不變。
6 其他
除了以上基本的變種，分組網(wǎng)絡(luò)還有非常多的新方向，包括：
(1) 多尺度和多感受野分組卷積模型。
(2) 分組可學(xué)習(xí)的分組卷積模型。
(3) 多精度的分組卷積模型。
(4) 與殘差網(wǎng)絡(luò)的結(jié)合。
(5) 其他等等。
以上內(nèi)容，如果你不想自己學(xué)習(xí)，可以去我們知識(shí)星球的網(wǎng)絡(luò)結(jié)構(gòu)1000變板塊—分組網(wǎng)絡(luò)板塊閱讀，純屬自愿，不愿勿噴。
有三AI知識(shí)星球
知識(shí)星球是有三AI的付費(fèi)內(nèi)容社區(qū)，里面包括各領(lǐng)域的模型學(xué)習(xí)，數(shù)據(jù)集下載，公眾號(hào)的付費(fèi)圖文原稿，技術(shù)總結(jié)PPT和視頻，知識(shí)問答，書籍下載，項(xiàng)目推薦，線下活動(dòng)等資源，了解詳細(xì)請(qǐng)閱讀以下文章：
【雜談】有三AI知識(shí)星球一周年了！為什么公眾號(hào)+星球才是完整的？
【雜談】萬萬沒想到，有三還有個(gè)保密的‘朋友圈’，那里面都在弄啥！
轉(zhuǎn)載文章請(qǐng)后臺(tái)聯(lián)系
侵權(quán)必究
往期精選
【雜談】2020年有三AI計(jì)算機(jī)視覺培養(yǎng)計(jì)劃詳解，該不該學(xué)&怎么學(xué)CV的簡(jiǎn)單討論
【年終總結(jié)】2019年有三AI做了什么，2020年我們要做什么？
【總結(jié)】有三AI秋季劃模型優(yōu)化組3月直播講了哪些內(nèi)容，為什么每一個(gè)從事深度學(xué)習(xí)的同學(xué)都應(yīng)該掌握模型優(yōu)化的內(nèi)容
【總結(jié)】有三AI秋季劃人臉?biāo)惴ńM3月直播講了哪些內(nèi)容，計(jì)算機(jī)視覺你不可能繞開人臉圖像
【總結(jié)】有三AI秋季劃圖像質(zhì)量組3月直播講了哪些內(nèi)容，為什么解決好底層圖像處理問題那么重要
總結(jié)
以上是生活随笔為你收集整理的【星球知识卡片】移动端高效率的分组网络都发展到什么程度了？的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 【星球知识卡片】残差网络家族10多个变种
- 下一篇： 【星球知识卡片】注意力机制发展如何了，如