01

對(duì)于人和動(dòng)物來說，我們的機(jī)器是用神經(jīng)元制造的，也就是神經(jīng)網(wǎng)絡(luò)。

人類對(duì)于智能如何工作的圖景，是建立在大腦如何工作的簡單想法基礎(chǔ)上的。

神經(jīng)元很復(fù)雜，但是人類已經(jīng)初步識(shí)別出神經(jīng)元所做的一件重要的事情：它積累到一定數(shù)量，然后將總數(shù)和一個(gè)閾限進(jìn)行比較，來確定是否超過這個(gè)閾限。

一個(gè)觸發(fā)的神經(jīng)元及其激活程度在不斷變化，它的激活水平受到來自軸突的激活水平的影響。

軸突從附著在突觸上的其他神經(jīng)元一直延伸到本神經(jīng)元的樹突（輸入結(jié)構(gòu)）。

突觸具有的電量從正（興奮的）到零，再到負(fù)（抑制的）。

每個(gè)到來的軸突的激活水平乘上突觸的電量，神經(jīng)元將這些激活水平累加，如果總數(shù)超過了閾限，神經(jīng)元就會(huì)變得更活躍，繼而向任何與它相連的神經(jīng)元發(fā)送一個(gè)信號(hào)。

盡管神經(jīng)元總是處在激活狀態(tài)，而到來的信號(hào)只是讓它的激活水平變化為更快或更慢的可察覺速率，但有時(shí)將它們描述為關(guān)（靜息率）或開（動(dòng)作率）還是比較方便。

我們可以看到這些神經(jīng)元連接在一起組成了邏輯門，它執(zhí)行了最基本的關(guān)系：且、或、非。

我們用神經(jīng)元模型構(gòu)建一個(gè)傳統(tǒng)數(shù)字計(jì)算機(jī)，無論這些邏輯門是神經(jīng)元還是半導(dǎo)體做的，它已經(jīng)可以開始執(zhí)行經(jīng)典邏輯了。

更進(jìn)一步地，人們?cè)囍{(diào)整方向，做一臺(tái)更具生物形態(tài)的計(jì)算機(jī)。

首先，增加模糊邏輯，現(xiàn)實(shí)生活中人們對(duì)某事是否正確并沒有全部或者沒有這樣的斬釘截鐵的十足把握。

其次，增加統(tǒng)計(jì)決策，將結(jié)論單位設(shè)計(jì)成不同的方式組合，比如改為閾限單位，只有在權(quán)重超過一定臨界點(diǎn)時(shí)才執(zhí)行政策作出決定；或者結(jié)論單位可以逐漸增加活躍度，然后在收益遞減的位置趨于穩(wěn)定。

再次，將每個(gè)單位都和所有單位連接在一起。

于是，有趣的事情發(fā)生了：網(wǎng)絡(luò)開始產(chǎn)生類似于人類思維的過程。

這種摒棄頂端節(jié)點(diǎn)，只計(jì)算各性質(zhì)之間的相關(guān)度的網(wǎng)絡(luò)，有五個(gè)典型的特征。

1、這是一個(gè)重構(gòu)的、內(nèi)容尋址的記憶內(nèi)存。

比特本身沒有意義，它們組成的字節(jié)有著任意的地址，地址和內(nèi)容沒有關(guān)系。

根據(jù)地址獲得內(nèi)存記憶的位置，然后確定一個(gè)模式是否儲(chǔ)藏在記憶的某個(gè)地方。

因?yàn)楸碚饕患|西的單位是相互緊密連接的，所以被激活的單位會(huì)相互強(qiáng)化。

而且，連接是冗余的，這使得即使只有模式的一部分呈交到自動(dòng)協(xié)關(guān)器，其余部分也將自動(dòng)完成。

這類似于心智的回憶。

2、處理嘈雜的輸入的方法。

在現(xiàn)實(shí)世界中，錯(cuò)誤是隨處可見的，比如輸入錯(cuò)誤。

之前的計(jì)算機(jī)是笨頭笨腦的，比如我們輸入一個(gè)打印命令，錯(cuò)手打成了pritn file，然后，它就會(huì)返回一條信息：pritn: command not found。

近年來這個(gè)情況已經(jīng)有所改善，最常見的是我們可以在word輸入的時(shí)候的采用自動(dòng)糾偏功能，一不小心輸入gub時(shí)，word可能會(huì)提示改為gun，或者是helf改為help等。

3、能夠做一種簡約版的計(jì)算，即限制性滿意。

在規(guī)則的基礎(chǔ)上，人們經(jīng)常會(huì)需要猜測，在我們的知覺、語言和常識(shí)推理中經(jīng)常會(huì)遇到這樣的情況。

我是一次惡意行為的受害者，還是一次愚蠢行為的犧牲者？

約束網(wǎng)絡(luò)模擬了這一點(diǎn)，有時(shí)候一個(gè)約束網(wǎng)絡(luò)可以有相互不一致但相等的穩(wěn)定狀態(tài)，這也說明了這個(gè)現(xiàn)象整體的模糊性，即以兩種方式來解釋整個(gè)物體，而不是各個(gè)部分。

4、網(wǎng)絡(luò)自動(dòng)歸納概括的能力。

這種模式協(xié)關(guān)器的原理是這樣的，如果兩個(gè)物體在某些方式上相似，那么很可能它們?cè)谄渌绞缴弦蚕嗨啤?/p>

任何與一個(gè)單位的物體相連接的信息事實(shí)上就會(huì)和其他物體的許多單位相連接。

比如說有對(duì)于“移動(dòng)”、“呼吸”、“長毛發(fā)”、“吠叫”、“咬”和“見到消防栓就抬腿”這樣的輸入單位，發(fā)散出所有這六項(xiàng)的連接就觸發(fā)了一種動(dòng)物——你肯定馬上猜到了——的事實(shí)。

5、從例子中學(xué)習(xí)。

這是現(xiàn)在強(qiáng)化學(xué)習(xí)的一個(gè)重要概念，模型建立者并不親手確定策略，而是利用了學(xué)習(xí)的機(jī)制。

具有這種學(xué)習(xí)技術(shù)的模式協(xié)關(guān)器叫做感知器。

當(dāng)然，這樣的模式需要一個(gè)容錯(cuò)機(jī)制——雖然一個(gè)隱含的網(wǎng)絡(luò)經(jīng)過訓(xùn)練，能夠運(yùn)用一個(gè)更加新式的感知器學(xué)習(xí)程序來確定自己的權(quán)重。

了解神經(jīng)網(wǎng)絡(luò)模型的特征之后，我們反過來思考，智能是如何工作的呢？

這種神經(jīng)網(wǎng)絡(luò)，又是否執(zhí)行了正確的計(jì)算來反應(yīng)人腦思考的工作運(yùn)行呢？

02

那么，心智又是如何工作的呢？計(jì)算機(jī)的模擬為我們提供了一個(gè)之前一直被忽視的視角。

第一，個(gè)體性的概念。

個(gè)體的概念是人類社會(huì)推理整體知識(shí)的基本粒子。

人總能輕易地區(qū)分開每一個(gè)個(gè)體，即使她們是幾乎一模一樣的同卵雙胞胎，我們也可以明白這是“兩個(gè)人”。

我們對(duì)個(gè)體的執(zhí)迷或許是因?yàn)?#xff0c;我們所遇到的每個(gè)人，都與所觀察到的其他物體不同，他有其獨(dú)特性、能動(dòng)性及不同的經(jīng)歷。

這是一個(gè)顯而易見的心智能力，在動(dòng)物身上也有出現(xiàn)。

不過，計(jì)算機(jī)很難做到這一點(diǎn)，只要是相同的表征，計(jì)算機(jī)都會(huì)認(rèn)為這是同一個(gè)物體，也就是說，系統(tǒng)會(huì)混淆類別和個(gè)體。

或者說，系統(tǒng)沒有個(gè)體概念。

第二，組成性問題。

一個(gè)表征如何由各種部件組成，各個(gè)部件的含義是什么，其組成方式又如何構(gòu)成整個(gè)表征的含義。

組成性是所有人類語言的精華特征。

我們可以產(chǎn)生很多瘋狂的新想法，無論這想法有多么荒謬不經(jīng)。

比如：奶牛跳過月球，宇宙源于一個(gè)大爆炸，外星生物降臨地球……

可能你會(huì)覺得，把這樣的組成性問題放在神經(jīng)網(wǎng)絡(luò)中非常容易，只要開啟“奶牛”“跳過”“月球”的單位就可以了。

實(shí)際上，這會(huì)導(dǎo)致一種混淆：究竟是奶牛跳過了月球，月球跳過了奶牛，還是奶牛和月球跳過了。

也就是說你需要將概念分配給角色，設(shè)置一個(gè)參數(shù)，規(guī)定誰是可以跳的。

人的心智模式中天然可以區(qū)分這一類事情，因?yàn)槲覀兊乃季S是彼此相關(guān)的方式。

只要看到這三個(gè)詞，“奶牛”、“跳過”、“月球”，我們可以自然地將其組合成一句話并正確理解。

所以，人類心智一定表征了比概念到概念更復(fù)雜的命題。

第三、量化或變量約束。

試著看這樣一句話：

你可以在某些時(shí)候愚弄所有人，你甚至可能永遠(yuǎn)愚弄某些人，但你不可能永遠(yuǎn)愚弄所有人。——亞伯蘭罕·林肯

如果你可以理解這句話，那么所運(yùn)用的就是計(jì)算量化的能力。

人類對(duì)記憶系統(tǒng)有著兩種非常不同的要求。

我們要記住具體的，誰，在什么時(shí)候，在什么地點(diǎn)，為什么，對(duì)誰，做出了什么事情。

同時(shí)，我們也需要推斷出一些關(guān)于世界如何運(yùn)轉(zhuǎn)的一般性知識(shí)。

心理學(xué)家將這兩種方式做了區(qū)分，前者是“情景式”或者說是自傳體式記憶；后者是“語義式”或者說是一般性知識(shí)記憶。

第四、遞歸。

人類的心智可以將一整個(gè)命題放在一個(gè)更大的命題當(dāng)中，賦予它一個(gè)角色。

我們可以產(chǎn)生一組無限多的數(shù)的能力，將一個(gè)命題嵌套在另一個(gè)命題當(dāng)中，這增加了無限多思維的能力。

在計(jì)算機(jī)科學(xué)和心理語言學(xué)當(dāng)中，采用的是一種更為強(qiáng)大和靈活的機(jī)制：

每一個(gè)簡單結(jié)構(gòu)都在長期記憶中得到一次表征，處理器的注意在一個(gè)結(jié)構(gòu)到另一個(gè)結(jié)構(gòu)之間不斷地穿梭轉(zhuǎn)移，將轉(zhuǎn)移的路線記錄在短期記憶中，從而將命題編織在一起。

這就是遞歸式轉(zhuǎn)換網(wǎng)絡(luò)的動(dòng)態(tài)處理器所做的事情。

讓我們將其轉(zhuǎn)換成人話：

比如說在理解一個(gè)句子的時(shí)候，我們是一次聽或者讀一個(gè)單詞，而不是一個(gè)整句——人類似乎也是在一點(diǎn)一點(diǎn)咀嚼我們的復(fù)雜思維，而不是囫圇咽下。

或許當(dāng)一個(gè)動(dòng)態(tài)處理器在這么做的時(shí)候，它也不僅僅是為了句子，而是為了思維。

第五、模糊版和清晰版的統(tǒng)一。

我們都知道，在人類世界，很多常識(shí)性概念的邊界都很模糊，沒有清晰的定義。

但是人們并不總是模糊的，我們有非常多的確定性判斷和毫不含糊的思維例子。

人們同時(shí)用這兩種方式來思維。

模糊性來自于人類會(huì)不假思索地吸取各個(gè)特征的相關(guān)性來形成一種刻板印象，比如對(duì)地域的刻板印象，或者對(duì)鳥類應(yīng)該是什么樣的刻板印象等。

但人類也會(huì)創(chuàng)造系統(tǒng)規(guī)則，規(guī)則帶來了思維的清晰性，并且讓我們從單純的相似性中升華出來，根據(jù)解釋來得出結(jié)論。

模糊版和清晰版的相同類別，就這樣相安無事地共處于一個(gè)大腦之中。

03

在強(qiáng)光燈下的比較和審視讓我們看到了神經(jīng)網(wǎng)絡(luò)模型與人的心智之間的差距，差距還有很多，目前已經(jīng)復(fù)雜到一個(gè)比較高的量級(jí)。

神經(jīng)網(wǎng)絡(luò)通過執(zhí)行一些邏輯和統(tǒng)計(jì)運(yùn)算，來選擇輸入表征、網(wǎng)絡(luò)數(shù)量、每一個(gè)網(wǎng)絡(luò)的連接方式，以及數(shù)據(jù)路徑和連接這些路徑的控制結(jié)構(gòu)。

神經(jīng)網(wǎng)絡(luò)正在試著越來越好地地解釋怎樣讓一個(gè)系統(tǒng)變得智能。

這一切開始地那么樸素，離奇跡的感覺也還很遙遠(yuǎn)。

但是，正是這樣的一套“更具生物形態(tài)的計(jì)算機(jī)”，讓我們離自己的心智智能越來越近。

總結(jié)

以上是生活随笔為你收集整理的模糊神经网络_神经网络模型：当网络开始产生类似于人类思维的过程的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。