首先，我們我們知道深度學(xué)習(xí)中網(wǎng)絡(luò)的計(jì)算量代表時(shí)間復(fù)雜度，參數(shù)量代表空間復(fù)雜度。

從ResNet的論文中可知(ResNet論文可在這個(gè)文章中的第六部分找到)152層的殘差網(wǎng)絡(luò)在時(shí)間復(fù)雜度上和VGG16是一樣大的。

接下來(lái)我們先對(duì)VGG16的計(jì)算量(時(shí)間復(fù)雜度)和參數(shù)量(空間復(fù)雜度)都進(jìn)行估算。(VGG網(wǎng)絡(luò)的相關(guān)知識(shí)可以在這篇文章中了解)

我們以VGG16的第一層卷積為例：

輸入圖像224 * 224 * 3，輸出224 * 224 * 64，卷積核大小為3 * 3.

計(jì)算量： Times = 224 * 224 * 3 * 3 * 64=8.7 * 10^7

參數(shù)量： Space = 3 * 3 * 3 * 64=1728

我們?cè)賹?duì)最后一層卷積進(jìn)行計(jì)算：

輸入 14 * 14 * 512，輸出 14 * 14 * 512，卷積核大小為3 * 3

計(jì)算量： Times = 14 * 14 * 3 * 3 * 512 * 512 = 4.6 * 10^8

參數(shù)量： Space = 3 * 3 * 512 * 512 = 2.4 * 10^6

我最后對(duì)最后一層全連接層進(jìn)行計(jì)算：

全連接層可以看成是一種特殊的卷積層，上層為1 * 1 * 4096，下層為 1 * 1 * 1000，使用的是1 * 1的卷積核進(jìn)行卷積。

計(jì)算量： Times = 1 * 1 * 1 * 1 * 4096 * 1000 = 4 * 10^6

參數(shù)量： Space = 1 * 1 * 4096 * 1000 = 4 * 10^6

VGG16網(wǎng)絡(luò)總結(jié)：

卷積層的時(shí)間復(fù)雜度大致是在同一數(shù)量級(jí)的。

隨著網(wǎng)絡(luò)深度的加深，卷積層的空間復(fù)雜度快速上升(每層的空間復(fù)雜度是上一層的兩倍)。

全連接層的空間復(fù)雜度比卷積層的最后一層還大。

說(shuō)了以上的內(nèi)容，我們回過(guò)頭來(lái)再看問(wèn)題：VGG16核ResNet152哪個(gè)參數(shù)量更多？

應(yīng)該是VGG16參數(shù)量更多，因?yàn)镽esNet152是用了Bottleneck Design結(jié)構(gòu)，這個(gè)結(jié)構(gòu)有兩個(gè)1 * 1 和一個(gè)3 * 3的卷積組成，大大縮減了參數(shù)量。(關(guān)于Bottleneck可以參考這篇文章的第一部分)

總結(jié)

以上是生活随笔為你收集整理的vgg16卷积层的计算量_深度学习_经典网络_VGG16和ResNet152哪个参数量更多的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。