上一篇是實(shí)戰(zhàn)內(nèi)容，我們使用 Python 一步步搭建了一個(gè)最簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)模型，只包含單層隱藏層。并使用這個(gè)簡(jiǎn)單模型對(duì)非線性可分的樣本集進(jìn)行分類，最終得到了不錯(cuò)的分類效果。本文將繼續(xù)從深度神經(jīng)網(wǎng)絡(luò)入手，介紹深層神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)原理和推導(dǎo)過程。

神經(jīng)網(wǎng)絡(luò)為什么要深？

我們都知道神經(jīng)網(wǎng)絡(luò)能處理很多問題，而且效果顯著。其強(qiáng)大能力主要源自神經(jīng)網(wǎng)絡(luò)足夠“深”，也就是說網(wǎng)絡(luò)層數(shù)越多，神經(jīng)網(wǎng)絡(luò)就更加復(fù)雜，處理數(shù)據(jù)的能力越強(qiáng)，模型就越具有強(qiáng)大的學(xué)習(xí)能力。這符合我們直觀的理解。下面通過兩個(gè)例子來解釋其中內(nèi)在的原因。

首先來看神經(jīng)網(wǎng)絡(luò)在圖像處理、人臉識(shí)別領(lǐng)域的應(yīng)用。神經(jīng)網(wǎng)絡(luò)的輸入是一張圖片，從計(jì)算機(jī)角度來看，接收的是一個(gè)一個(gè)像素值。神經(jīng)網(wǎng)絡(luò)的第一層主要是從原始圖片中提取一些邊緣信息，例如面部的水平、垂直邊緣。這樣每個(gè)神經(jīng)元做的事是邊緣檢測(cè)。然后，神經(jīng)網(wǎng)絡(luò)的第二層是將前一層得到的邊緣信息進(jìn)行整合，提取出面部的一些局部特征，例如眼睛、鼻子、嘴巴等等。之后，神經(jīng)網(wǎng)絡(luò)更深，提取的特征更加復(fù)雜，從模糊到細(xì)節(jié)、從局部到整體。可見，如果隱藏層足夠多，那么能夠提取的特征就越豐富、越復(fù)雜，模型的準(zhǔn)確率就會(huì)越高。

下圖是一個(gè)人類識(shí)別的例子，隨著網(wǎng)絡(luò)層數(shù)加深，隱藏層提取的特征也逐漸變得復(fù)雜。

語(yǔ)音識(shí)別神經(jīng)網(wǎng)絡(luò)模型也是一樣，淺層的神經(jīng)元能檢測(cè)出簡(jiǎn)單的音調(diào)，隨著網(wǎng)絡(luò)層數(shù)加深，神經(jīng)元還能檢測(cè)出基本的音素、單詞信息，甚至對(duì)短語(yǔ)和句子進(jìn)行檢測(cè)。提取的特征由簡(jiǎn)單到復(fù)雜，功能也越來越強(qiáng)大。

總結(jié)

以上是生活随笔為你收集整理的第08课：深层神经网络（DNN）的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。