全連接神經(jīng)網(wǎng)絡(luò)的兩大缺陷:
(1)在原理方面上：BP神經(jīng)網(wǎng)絡(luò)仍然是有監(jiān)督的傳統(tǒng)機(jī)器學(xué)習(xí)方法

根據(jù)上圖可知，網(wǎng)絡(luò)對(duì)原圖進(jìn)行特征提取和分類，最后由人工標(biāo)注好的標(biāo)簽判斷原圖中是否存在貓。
（2）在結(jié)構(gòu)方面上：參數(shù)居多，容易丟失空間信息
如果一個(gè)隱藏層特征圖像大小為100×100，輸入層的特征圖像大小為100×100，這意味著學(xué)習(xí)這一層需要100×100×100×100參數(shù)。如果以32位的浮點(diǎn)數(shù)進(jìn)行存儲(chǔ)，就需要4×10^8的字節(jié)的存儲(chǔ)量，約等于400MB的參數(shù)量。僅僅這樣的一個(gè)網(wǎng)絡(luò)層，其模型參數(shù)量已經(jīng)超過(guò)了AlexNet網(wǎng)絡(luò)的參數(shù)量，而100×100的特征圖像分辨率，已經(jīng)低于很多任務(wù)能夠成功解決的下限。除了計(jì)算過(guò)程中需要存儲(chǔ)的海量的參數(shù)，還有海量的計(jì)算，這些都超過(guò)了當(dāng)時(shí)硬件的能力，因此大大限制了網(wǎng)絡(luò)的大小，尤其是對(duì)于一些大的圖像輸入。

參考鏈接：https://tianchi.aliyun.com/course/311/3558

總結(jié)

以上是生活随笔為你收集整理的全连接神经网络的两大缺陷的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。