DL之ShuffleNet：ShuffleNet算法的簡(jiǎn)介(論文介紹)、架構(gòu)詳解、案例應(yīng)用等配圖集合之詳細(xì)攻略

?

?

相關(guān)文章
DL之ShuffleNet：ShuffleNet算法的簡(jiǎn)介(論文介紹)、架構(gòu)詳解、案例應(yīng)用等配圖集合之詳細(xì)攻略
DL之ShuffleNet：ShuffleNet算法的架構(gòu)詳解
DL之ShuffleNetV2：ShuffleNetV2算法的簡(jiǎn)介(論文介紹)、架構(gòu)詳解、案例應(yīng)用等配圖集合之詳細(xì)攻略
DL之ShuffleNetV2：ShuffleNetV2算法的架構(gòu)詳解

?

ShuffleNet算法的簡(jiǎn)介(論文介紹)

? ? ? ? ShuffleNet也是應(yīng)用在移動(dòng)設(shè)備上的網(wǎng)絡(luò)架構(gòu)模型。

Abstract
We introduce an extremely computation-efficient CNN ?architecture named ShuffleNet, which is designed specially ?for mobile devices with very limited computing power (e.g., ?10-150 MFLOPs). The new architecture utilizes two new ?operations, pointwise group convolution and channel shuffle, ?to greatly reduce computation cost while maintaining ?accuracy. Experiments on ImageNet classification and MS ?COCO object detection demonstrate the superior performance ?of ShuffleNet over other structures, e.g. lower top-1 ?error (absolute 7.8%) than recent MobileNet [12] on ImageNet ?classification task, under the computation budget of ?40 MFLOPs. On an ARM-based mobile device, ShuffleNet ?achieves ～13× actual speedup over AlexNet while maintaining ?comparable accuracy.
摘要
我們介紹了一個(gè)非常高效的CNN架構(gòu)，名為ShuffleNet，專門(mén)為計(jì)算能力非常有限的移動(dòng)設(shè)備（如10-150 MFLOPs）設(shè)計(jì)。新的體系結(jié)構(gòu)利用了兩種新的運(yùn)算，即點(diǎn)態(tài)組卷積和channel shuffle，在保持精度的同時(shí)，大大降低了計(jì)算成本。圖像網(wǎng)絡(luò)分類(lèi)和MS-COCO目標(biāo)檢測(cè)實(shí)驗(yàn)表明，在40 MFLOPs的計(jì)算預(yù)算下，與其他結(jié)構(gòu)相比，在圖像網(wǎng)絡(luò)分類(lèi)任務(wù)上，ShuffleNet 具有更好的性能，例如比最近的MobileNet [12]更低的Top-1錯(cuò)誤（絕對(duì)7.8%）。在基于ARM的移動(dòng)設(shè)備上，ShuffleNet 比AlexNet實(shí)現(xiàn)了～13倍的實(shí)際加速，同時(shí)保持了相當(dāng)?shù)臏?zhǔn)確性。

?

4、Experiment

實(shí)驗(yàn)在ImageNet的分類(lèi)集上做評(píng)估，大多數(shù)遵循ResNeXt的設(shè)置，除了兩點(diǎn)：

• 權(quán)重衰減從1e-4降低到了4e-5
• 數(shù)據(jù)增強(qiáng)使用較少的aggressive scale 增強(qiáng)

這樣做的原因是小型網(wǎng)絡(luò)在訓(xùn)練過(guò)程通常會(huì)遇到欠擬合而不是過(guò)擬合問(wèn)題。

1、Classification error vs. number of groups g

2、Classification error vs. various structures

3、ShuffleNet vs. MobileNet on ImageNet Classification

?

?

?

論文
Xiangyu Zhang, XinyuZhou, MengxiaoLin, Jian Sun.
ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices. CVPR 2017.
https://arxiv.org/abs/1707.01083

?

?

ShuffleNet算法的架構(gòu)詳解

更新……

DL之ShuffleNet：ShuffleNet算法的架構(gòu)詳解

?

?

?

?

ShuffleNet算法的案例應(yīng)用

更新……

?

?

?

?

?

?

?

總結(jié)

以上是生活随笔為你收集整理的DL之ShuffleNet：ShuffleNet算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。