01

對(duì)于人和動(dòng)物來(lái)說(shuō)，我們的機(jī)器是用神經(jīng)元制造的，也就是神經(jīng)網(wǎng)絡(luò)。

人類對(duì)于智能如何工作的圖景，是建立在大腦如何工作的簡(jiǎn)單想法基礎(chǔ)上的。

神經(jīng)元很復(fù)雜，但是人類已經(jīng)初步識(shí)別出神經(jīng)元所做的一件重要的事情：它積累到一定數(shù)量，然后將總數(shù)和一個(gè)閾限進(jìn)行比較，來(lái)確定是否超過(guò)這個(gè)閾限。

一個(gè)觸發(fā)的神經(jīng)元及其激活程度在不斷變化，它的激活水平受到來(lái)自軸突的激活水平的影響。

軸突從附著在突觸上的其他神經(jīng)元一直延伸到本神經(jīng)元的樹(shù)突（輸入結(jié)構(gòu)）。

突觸具有的電量從正（興奮的）到零，再到負(fù)（抑制的）。

每個(gè)到來(lái)的軸突的激活水平乘上突觸的電量，神經(jīng)元將這些激活水平累加，如果總數(shù)超過(guò)了閾限，神經(jīng)元就會(huì)變得更活躍，繼而向任何與它相連的神經(jīng)元發(fā)送一個(gè)信號(hào)。

盡管神經(jīng)元總是處在激活狀態(tài)，而到來(lái)的信號(hào)只是讓它的激活水平變化為更快或更慢的可察覺(jué)速率，但有時(shí)將它們描述為關(guān)（靜息率）或開(kāi)（動(dòng)作率）還是比較方便。

我們可以看到這些神經(jīng)元連接在一起組成了邏輯門，它執(zhí)行了最基本的關(guān)系：且、或、非。

我們用神經(jīng)元模型構(gòu)建一個(gè)傳統(tǒng)數(shù)字計(jì)算機(jī)，無(wú)論這些邏輯門是神經(jīng)元還是半導(dǎo)體做的，它已經(jīng)可以開(kāi)始執(zhí)行經(jīng)典邏輯了。

更進(jìn)一步地，人們?cè)囍{(diào)整方向，做一臺(tái)更具生物形態(tài)的計(jì)算機(jī)。

首先，增加模糊邏輯，現(xiàn)實(shí)生活中人們對(duì)某事是否正確并沒(méi)有全部或者沒(méi)有這樣的斬釘截鐵的十足把握。

其次，增加統(tǒng)計(jì)決策，將結(jié)論單位設(shè)計(jì)成不同的方式組合，比如改為閾限單位，只有在權(quán)重超過(guò)一定臨界點(diǎn)時(shí)才執(zhí)行政策作出決定；或者結(jié)論單位可以逐漸增加活躍度，然后在收益遞減的位置趨于穩(wěn)定。

再次，將每個(gè)單位都和所有單位連接在一起。

于是，有趣的事情發(fā)生了：網(wǎng)絡(luò)開(kāi)始產(chǎn)生類似于人類思維的過(guò)程。

這種摒棄頂端節(jié)點(diǎn)，只計(jì)算各性質(zhì)之間的相關(guān)度的網(wǎng)絡(luò)，有五個(gè)典型的特征。

1、這是一個(gè)重構(gòu)的、內(nèi)容尋址的記憶內(nèi)存。

比特本身沒(méi)有意義，它們組成的字節(jié)有著任意的地址，地址和內(nèi)容沒(méi)有關(guān)系。

根據(jù)地址獲得內(nèi)存記憶的位置，然后確定一個(gè)模式是否儲(chǔ)藏在記憶的某個(gè)地方。

因?yàn)楸碚饕患|西的單位是相互緊密連接的，所以被激活的單位會(huì)相互強(qiáng)化。

而且，連接是冗余的，這使得即使只有模式的一部分呈交到自動(dòng)協(xié)關(guān)器，其余部分也將自動(dòng)完成。

這類似于心智的回憶。

2、處理嘈雜的輸入的方法。

在現(xiàn)實(shí)世界中，錯(cuò)誤是隨處可見(jiàn)的，比如輸入錯(cuò)誤。

之前的計(jì)算機(jī)是笨頭笨腦的，比如我們輸入一個(gè)打印命令，錯(cuò)手打成了pritn file，然后，它就會(huì)返回一條信息：pritn: command not found。

近年來(lái)這個(gè)情況已經(jīng)有所改善，最常見(jiàn)的是我們可以在word輸入的時(shí)候的采用自動(dòng)糾偏功能，一不小心輸入gub時(shí)，word可能會(huì)提示改為gun，或者是helf改為help等。

3、能夠做一種簡(jiǎn)約版的計(jì)算，即限制性滿意。

在規(guī)則的基礎(chǔ)上，人們經(jīng)常會(huì)需要猜測(cè)，在我們的知覺(jué)、語(yǔ)言和常識(shí)推理中經(jīng)常會(huì)遇到這樣的情況。

我是一次惡意行為的受害者，還是一次愚蠢行為的犧牲者？

約束網(wǎng)絡(luò)模擬了這一點(diǎn)，有時(shí)候一個(gè)約束網(wǎng)絡(luò)可以有相互不一致但相等的穩(wěn)定狀態(tài)，這也說(shuō)明了這個(gè)現(xiàn)象整體的模糊性，即以兩種方式來(lái)解釋整個(gè)物體，而不是各個(gè)部分。

4、網(wǎng)絡(luò)自動(dòng)歸納概括的能力。

這種模式協(xié)關(guān)器的原理是這樣的，如果兩個(gè)物體在某些方式上相似，那么很可能它們?cè)谄渌绞缴弦蚕嗨啤?/p>

任何與一個(gè)單位的物體相連接的信息事實(shí)上就會(huì)和其他物體的許多單位相連接。

比如說(shuō)有對(duì)于“移動(dòng)”、“呼吸”、“長(zhǎng)毛發(fā)”、“吠叫”、“咬”和“見(jiàn)到消防栓就抬腿”這樣的輸入單位，發(fā)散出所有這六項(xiàng)的連接就觸發(fā)了一種動(dòng)物——你肯定馬上猜到了——的事實(shí)。

5、從例子中學(xué)習(xí)。

這是現(xiàn)在強(qiáng)化學(xué)習(xí)的一個(gè)重要概念，模型建立者并不親手確定策略，而是利用了學(xué)習(xí)的機(jī)制。

具有這種學(xué)習(xí)技術(shù)的模式協(xié)關(guān)器叫做感知器。

當(dāng)然，這樣的模式需要一個(gè)容錯(cuò)機(jī)制——雖然一個(gè)隱含的網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練，能夠運(yùn)用一個(gè)更加新式的感知器學(xué)習(xí)程序來(lái)確定自己的權(quán)重。

了解神經(jīng)網(wǎng)絡(luò)模型的特征之后，我們反過(guò)來(lái)思考，智能是如何工作的呢？

這種神經(jīng)網(wǎng)絡(luò)，又是否執(zhí)行了正確的計(jì)算來(lái)反應(yīng)人腦思考的工作運(yùn)行呢？

02

那么，心智又是如何工作的呢？計(jì)算機(jī)的模擬為我們提供了一個(gè)之前一直被忽視的視角。

第一，個(gè)體性的概念。

個(gè)體的概念是人類社會(huì)推理整體知識(shí)的基本粒子。

人總能輕易地區(qū)分開(kāi)每一個(gè)個(gè)體，即使她們是幾乎一模一樣的同卵雙胞胎，我們也可以明白這是“兩個(gè)人”。

我們對(duì)個(gè)體的執(zhí)迷或許是因?yàn)?#xff0c;我們所遇到的每個(gè)人，都與所觀察到的其他物體不同，他有其獨(dú)特性、能動(dòng)性及不同的經(jīng)歷。

這是一個(gè)顯而易見(jiàn)的心智能力，在動(dòng)物身上也有出現(xiàn)。

不過(guò)，計(jì)算機(jī)很難做到這一點(diǎn)，只要是相同的表征，計(jì)算機(jī)都會(huì)認(rèn)為這是同一個(gè)物體，也就是說(shuō)，系統(tǒng)會(huì)混淆類別和個(gè)體。

或者說(shuō)，系統(tǒng)沒(méi)有個(gè)體概念。

第二，組成性問(wèn)題。

一個(gè)表征如何由各種部件組成，各個(gè)部件的含義是什么，其組成方式又如何構(gòu)成整個(gè)表征的含義。

組成性是所有人類語(yǔ)言的精華特征。

我們可以產(chǎn)生很多瘋狂的新想法，無(wú)論這想法有多么荒謬不經(jīng)。

比如：奶牛跳過(guò)月球，宇宙源于一個(gè)大爆炸，外星生物降臨地球……

可能你會(huì)覺(jué)得，把這樣的組成性問(wèn)題放在神經(jīng)網(wǎng)絡(luò)中非常容易，只要開(kāi)啟“奶牛”“跳過(guò)”“月球”的單位就可以了。

實(shí)際上，這會(huì)導(dǎo)致一種混淆：究竟是奶牛跳過(guò)了月球，月球跳過(guò)了奶牛，還是奶牛和月球跳過(guò)了。

也就是說(shuō)你需要將概念分配給角色，設(shè)置一個(gè)參數(shù)，規(guī)定誰(shuí)是可以跳的。

人的心智模式中天然可以區(qū)分這一類事情，因?yàn)槲覀兊乃季S是彼此相關(guān)的方式。

只要看到這三個(gè)詞，“奶牛”、“跳過(guò)”、“月球”，我們可以自然地將其組合成一句話并正確理解。

所以，人類心智一定表征了比概念到概念更復(fù)雜的命題。

第三、量化或變量約束。

試著看這樣一句話：

你可以在某些時(shí)候愚弄所有人，你甚至可能永遠(yuǎn)愚弄某些人，但你不可能永遠(yuǎn)愚弄所有人。——亞伯蘭罕·林肯

如果你可以理解這句話，那么所運(yùn)用的就是計(jì)算量化的能力。

人類對(duì)記憶系統(tǒng)有著兩種非常不同的要求。

我們要記住具體的，誰(shuí)，在什么時(shí)候，在什么地點(diǎn)，為什么，對(duì)誰(shuí)，做出了什么事情。

同時(shí)，我們也需要推斷出一些關(guān)于世界如何運(yùn)轉(zhuǎn)的一般性知識(shí)。

心理學(xué)家將這兩種方式做了區(qū)分，前者是“情景式”或者說(shuō)是自傳體式記憶；后者是“語(yǔ)義式”或者說(shuō)是一般性知識(shí)記憶。

第四、遞歸。

人類的心智可以將一整個(gè)命題放在一個(gè)更大的命題當(dāng)中，賦予它一個(gè)角色。

我們可以產(chǎn)生一組無(wú)限多的數(shù)的能力，將一個(gè)命題嵌套在另一個(gè)命題當(dāng)中，這增加了無(wú)限多思維的能力。

在計(jì)算機(jī)科學(xué)和心理語(yǔ)言學(xué)當(dāng)中，采用的是一種更為強(qiáng)大和靈活的機(jī)制：

每一個(gè)簡(jiǎn)單結(jié)構(gòu)都在長(zhǎng)期記憶中得到一次表征，處理器的注意在一個(gè)結(jié)構(gòu)到另一個(gè)結(jié)構(gòu)之間不斷地穿梭轉(zhuǎn)移，將轉(zhuǎn)移的路線記錄在短期記憶中，從而將命題編織在一起。

這就是遞歸式轉(zhuǎn)換網(wǎng)絡(luò)的動(dòng)態(tài)處理器所做的事情。

讓我們將其轉(zhuǎn)換成人話：

比如說(shuō)在理解一個(gè)句子的時(shí)候，我們是一次聽(tīng)或者讀一個(gè)單詞，而不是一個(gè)整句——人類似乎也是在一點(diǎn)一點(diǎn)咀嚼我們的復(fù)雜思維，而不是囫圇咽下。

或許當(dāng)一個(gè)動(dòng)態(tài)處理器在這么做的時(shí)候，它也不僅僅是為了句子，而是為了思維。

第五、模糊版和清晰版的統(tǒng)一。

我們都知道，在人類世界，很多常識(shí)性概念的邊界都很模糊，沒(méi)有清晰的定義。

但是人們并不總是模糊的，我們有非常多的確定性判斷和毫不含糊的思維例子。

人們同時(shí)用這兩種方式來(lái)思維。

模糊性來(lái)自于人類會(huì)不假思索地吸取各個(gè)特征的相關(guān)性來(lái)形成一種刻板印象，比如對(duì)地域的刻板印象，或者對(duì)鳥(niǎo)類應(yīng)該是什么樣的刻板印象等。

但人類也會(huì)創(chuàng)造系統(tǒng)規(guī)則，規(guī)則帶來(lái)了思維的清晰性，并且讓我們從單純的相似性中升華出來(lái)，根據(jù)解釋來(lái)得出結(jié)論。

模糊版和清晰版的相同類別，就這樣相安無(wú)事地共處于一個(gè)大腦之中。

03

在強(qiáng)光燈下的比較和審視讓我們看到了神經(jīng)網(wǎng)絡(luò)模型與人的心智之間的差距，差距還有很多，目前已經(jīng)復(fù)雜到一個(gè)比較高的量級(jí)。

神經(jīng)網(wǎng)絡(luò)通過(guò)執(zhí)行一些邏輯和統(tǒng)計(jì)運(yùn)算，來(lái)選擇輸入表征、網(wǎng)絡(luò)數(shù)量、每一個(gè)網(wǎng)絡(luò)的連接方式，以及數(shù)據(jù)路徑和連接這些路徑的控制結(jié)構(gòu)。

神經(jīng)網(wǎng)絡(luò)正在試著越來(lái)越好地地解釋怎樣讓一個(gè)系統(tǒng)變得智能。

這一切開(kāi)始地那么樸素，離奇跡的感覺(jué)也還很遙遠(yuǎn)。

但是，正是這樣的一套“更具生物形態(tài)的計(jì)算機(jī)”，讓我們離自己的心智智能越來(lái)越近。

總結(jié)

以上是生活随笔為你收集整理的模糊神经网络_神经网络模型：当网络开始产生类似于人类思维的过程的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。