XOR问题
?在Rosenblatt單層感知機中已經(jīng)對異或問題做了介紹,并論證說明了只適用于線性分類問題的Rosenblatt感知機無法對異或問題進行分類。然而非線性問題是普遍存在的,下面就使用帶隱藏節(jié)點的神經(jīng)網(wǎng)絡(luò)來解決異或問題。
異或問題:
? ? ? ? 異或(XOR)問題可以看做是單位正方形的四個角,響應(yīng)的輸入模式為(0,0),(0,1),(1,1),(1,0)。第一個和第三個模式屬于類0,即
和
輸入模式(0,0)和(1,1)是單位正方形的兩個相對的角,但它們產(chǎn)生相同的結(jié)果是0。另一方面,輸入模式(0,1)和(1,0)是單位正方形另一對相對的角,但是它們屬于類1,即
和
? ? ? 很顯然,無法找出一條直線作為決策邊界可以使(0,0)和(1,1)在一個區(qū)域,而(1,0)和(0,1)在另一個區(qū)域。然而,可以使用如下圖所示的一層有兩個隱藏神經(jīng)元的隱藏層來解決異或問題。
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
這里做如下假設(shè):
1、每一個神經(jīng)元都由一個McCulloch-Pitts模型(見第一講)表示,使用閾值函數(shù)作為它的激活函數(shù)。
2、比特符號0和1,分別由0和+1表示。
隱藏層頂部的神經(jīng)元標注為“Neuron 1”,有
該隱藏神經(jīng)元構(gòu)造的決策邊界斜率等于-1,在下圖最上面的圖中給出器位置,隱藏層底部的神經(jīng)元標注為“Neuron 2”,有
隱藏元構(gòu)造的決策邊界方向和位置由下圖中間的圖給出。
? ? ? ?輸出層的神經(jīng)元標注為“Neuron 3”,有
輸出神經(jīng)元的功能是對兩個隱藏神經(jīng)元形成的決策邊界構(gòu)造線性組合。這個計算結(jié)果由下圖中最下面的圖給出。底部隱藏神經(jīng)元由一個興奮(正)鏈接到輸出神經(jīng)元,而頂部隱藏神經(jīng)元由一個更強的抑制(負)連接到輸出神經(jīng)元。當兩個隱藏神經(jīng)元都斷開時,這種情況當輸入信號(0,0)發(fā)生時,輸出神經(jīng)元保持斷開。當兩個隱藏神經(jīng)元都接通時,這種情況當輸入信號時(1,1)是發(fā)生,輸出神經(jīng)元也保持斷開。當輸入模式是(0,1)或(1,0)時,輸出神經(jīng)元是連通的,因為正的權(quán)值連向了底部隱藏神經(jīng)元。
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
---------------------?
作者:不死的鐘情?
來源:CSDN?
原文:https://blog.csdn.net/qq_18515405/article/details/42123697?
版權(quán)聲明:本文為博主原創(chuàng)文章,轉(zhuǎn)載請附上博文鏈接!
總結(jié)
- 上一篇: XOR加密
- 下一篇: XOR CHECKSUM