文章目錄

• • 1.全連接神經(jīng)網(wǎng)絡(luò)
  • 2.卷積神經(jīng)網(wǎng)絡(luò)
  • • 2.1走五子棋的例子
    • 2.2卷積核
    • 2.3通道
    • 2.4池化
    • 2.5全連接層

1.全連接神經(jīng)網(wǎng)絡(luò)

全連接神經(jīng)網(wǎng)絡(luò)中，對n-1層和n層而言，n-1層的任意一個(gè)節(jié)點(diǎn)，都和第n層所有節(jié)點(diǎn)有連接。即第n層的每個(gè)節(jié)點(diǎn)在進(jìn)行計(jì)算的時(shí)候，激活函數(shù)的輸入是n-1層所有節(jié)點(diǎn)的加權(quán)，這個(gè)激活函數(shù)是非線性的。它的缺點(diǎn)就是權(quán)重太多了，計(jì)算量很大。
它可作用于大多數(shù)場景

2.卷積神經(jīng)網(wǎng)絡(luò)

2.1走五子棋的例子

2.2卷積核

卷積核：負(fù)責(zé)檢測對應(yīng)的一個(gè)特征。
卷積核的大小也影響網(wǎng)絡(luò)的架構(gòu)，早期習(xí)慣使用77，99的大卷積核，近來發(fā)現(xiàn)研究大的卷積核可以用多個(gè)33的卷積核來代替，同時(shí)總體參數(shù)也減少了。
**因而目前主流卷積神經(jīng)網(wǎng)絡(luò)都傾向于33大小的卷積核。**
卷積核的參數(shù)是由網(wǎng)絡(luò)通過學(xué)習(xí)得到的。

2.3通道

每一個(gè)卷積操作的結(jié)果一般稱為一個(gè)通道（channel），也稱為一個(gè)映射（map)
卷積隱藏層通道的個(gè)數(shù)反映了網(wǎng)絡(luò)在這一層的特征檢測能力。
通常卷積神經(jīng)網(wǎng)絡(luò)越靠近輸出層其通道數(shù)就越多，但每一個(gè)通道的數(shù)據(jù)規(guī)模越來越小。

2.4池化

池化操作不需要任何參數(shù)，這大大減少了參數(shù)的個(gè)數(shù)。
池化操作與卷積操作相似，也具有大小f、步長s、擴(kuò)展p等概念，
池化操作分為兩種：最大池化和平均池化。

2.5全連接層

池化和全連接層在卷積神經(jīng)網(wǎng)絡(luò)中的作用越來越被淡化，有些卷積神經(jīng)網(wǎng)絡(luò)甚至拋棄了全連接層。

文章內(nèi)容參考

總結(jié)

以上是生活随笔為你收集整理的全连接神经网络VS卷积神经网络基本概念理解的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。