群优化算法
PSO粒子群優化算法
1. 引言
粒子群優化算法(PSO)是一種進化計算技術(evolutionary computation)，由Eberhart博士和kennedy博士發明。源于對鳥群捕食的行為研究
PSO同遺傳算法類似，是一種基于迭代的優化工具。系統初始化為一組隨機解，通過迭代搜尋最優值。但是并沒有遺傳算法用的交叉(crossover)以及變異(mutation)。而是粒子在解空間追隨最優的粒子進行搜索。詳細的步驟以后的章節介紹
同遺傳算法比較，PSO的優勢在于簡單容易實現并且沒有許多參數需要調整。目前已廣泛應用于函數優化，神經網絡訓練，模糊系統控制以及其他遺傳算法的應用領域
2. 背景: 人工生命
"人工生命"是來研究具有某些生命基本特征的人工系統. 人工生命包括兩方面的內容
1. 研究如何利用計算技術研究生物現象
2. 研究如何利用生物技術研究計算問題
我們現在關注的是第二部分的內容. 現在已經有很多源于生物現象的計算技巧. 例如, 人工神經網絡是簡化的大腦模型. 遺傳算法是模擬基因進化過程的.
現在我們討論另一種生物系統- 社會系統. 更確切的是, 在由簡單個體組成的群落與環境以及個體之間的互動行為. 也可稱做"群智能"(swarm intelligence). 這些模擬系統利用局部信息從而可能產生不可預測的群體行為
例如floys 和 boids, 他們都用來模擬魚群和鳥群的運動規律, 主要用于計算機視覺和計算機輔助設計.
在計算智能(computational intelligence)領域有兩種基于群智能的算法. 蟻群算法(ant colony optimization)和粒子群算法(particle swarm optimization). 前者是對螞蟻群落食物采集過程的模擬. 已經成功運用在很多離散優化問題上.
粒子群優化算法(PSO) 也是起源對簡單社會系統的模擬. 最初設想是模擬鳥群覓食的過程. 但后來發現PSO是一種很好的優化工具.
3. 算法介紹
如前所述，PSO模擬鳥群的捕食行為。設想這樣一個場景：一群鳥在隨機搜索食物。在這個區域里只有一塊食物。所有的鳥都不知道食物在那里。但是他們知道當前的位置離食物還有多遠。那么找到食物的最優策略是什么呢。最簡單有效的就是搜尋目前離食物最近的鳥的周圍區域。
PSO從這種模型中得到啟示并用于解決優化問題。PSO中，每個優化問題的解都是搜索空間中的一只鳥。我們稱之為“粒子”。所有的例子都有一個由被優化的函數決定的適應值(fitness value)，每個粒子還有一個速度決定他們飛翔的方向和距離。然后粒子們就追隨當前的最優粒子在解空間中搜索
PSO 初始化為一群隨機粒子(隨機解)。然后通過疊代找到最優解。在每一次疊代中，粒子通過跟蹤兩個"極值"來更新自己。第一個就是粒子本身所找到的最優解。這個解叫做個體極值pBest. 另一個極值是整個種群目前找到的最優解。這個極值是全局極值gBest。另外也可以不用整個種群而只是用其中一部分最為粒子的鄰居，那么在所有鄰居中的極值就是局部極值。
在找到這兩個最優值時, 粒子根據如下的公式來更新自己的速度和新的位置
v[] = v[] + c1 * rand() * (pbest[] - present[]) + c2 * rand() * (gbest[] - present[]) (a)
present[] = persent[] + v[] (b)
v[] 是粒子的速度, persent[] 是當前粒子的位置. pbest[] and gbest[] 如前定義 rand () 是介于（0， 1）之間的隨機數. c1, c2 是學習因子. 通常 c1 = c2 = 2.
程序的偽代碼如下
For each particle
____Initialize particle
END
Do
____For each particle
________Calculate fitness value
________If the fitness value is better than the best fitness value (pBest) in history
____________set current value as the new pBest
____End
____Choose the particle with the best fitness value of all the particles as the gBest
____For each particle
________Calculate particle velocity according equation (a)
________Update particle position according equation (b)
____End
While maximum iterations or minimum error criteria is not attained
在每一維粒子的速度都會被限制在一個最大速度Vmax，如果某一維更新后的速度超過用戶設定的Vmax，那么這一維的速度就被限定為Vmax
4. 遺傳算法和 PSO 的比較
大多數演化計算技術都是用同樣的過程
1. 種群隨機初始化
2. 對種群內的每一個個體計算適應值(fitness value).適應值與最優解的距離直接有關
3. 種群根據適應值進行復制
4. 如果終止條件滿足的話，就停止，否則轉步驟2
從以上步驟，我們可以看到PSO和GA有很多共同之處。兩者都隨機初始化種群，而且都使用適應值來評價系統，而且都根據適應值來進行一定的隨機搜索。兩個系統都不是保證一定找到最優解
但是，PSO 沒有遺傳操作如交叉(crossover)和變異(mutation). 而是根據自己的速度來決定搜索。粒子還有一個重要的特點，就是有記憶。
與遺傳算法比較, PSO 的信息共享機制是很不同的. 在遺傳算法中，染色體(chromosomes) 互相共享信息，所以整個種群的移動是比較均勻的向最優區域移動. 在PSO中, 只有gBest (or lBest) 給出信息給其他的粒子， 這是單向的信息流動. 整個搜索更新過程是跟隨當前最優解的過程. 與遺傳算法比較, 在大多數的情況下，所有的粒子可能更快的收斂于最優解
5. 人工神經網絡 和 PSO
人工神經網絡(ANN)是模擬大腦分析過程的簡單數學模型，反向轉播算法是最流行的神經網絡訓練算法。進來也有很多研究開始利用演化計算(evolutionary computation)技術來研究人工神經網絡的各個方面。
演化計算可以用來研究神經網絡的三個方面：網絡連接權重，網絡結構(網絡拓撲結構，傳遞函數)，網絡學習算法。
不過大多數這方面的工作都集中在網絡連接權重，和網絡拓撲結構上。在GA中，網絡權重和/或拓撲結構一般編碼為染色體(Chromosome)，適應函數(fitness function)的選擇一般根據研究目的確定。例如在分類問題中，錯誤分類的比率可以用來作為適應值
演化計算的優勢在于可以處理一些傳統方法不能處理的例子例如不可導的節點傳遞函數或者沒有梯度信息存在。但是缺點在于：在某些問題上性能并不是特別好。2. 網絡權重的編碼而且遺傳算子的選擇有時比較麻煩
最近已經有一些利用PSO來代替反向傳播算法來訓練神經網絡的論文。研究表明PSO 是一種很有潛力的神經網絡算法。PSO速度比較快而且可以得到比較好的結果。而且還沒有遺傳算法碰到的問題
這里用一個簡單的例子說明PSO訓練神經網絡的過程。這個例子使用分類問題的基準函數(Benchmark function)IRIS數據集。(Iris 是一種鳶尾屬植物) 在數據記錄中，每組數據包含Iris花的四種屬性：萼片長度，萼片寬度，花瓣長度，和花瓣寬度，三種不同的花各有50組數據. 這樣總共有150組數據或模式。
我們用3層的神經網絡來做分類。現在有四個輸入和三個輸出。所以神經網絡的輸入層有4個節點，輸出層有3個節點我們也可以動態調節隱含層節點的數目，不過這里我們假定隱含層有6個節點。我們也可以訓練神經網絡中其他的參數。不過這里我們只是來確定網絡權重。粒子就表示神經網絡的一組權重，應該是4*6+6*3=42個參數。權重的范圍設定為[-100，100] (這只是一個例子，在實際情況中可能需要試驗調整).在完成編碼以后，我們需要確定適應函數。對于分類問題，我們把所有的數據送入神經網絡，網絡的權重有粒子的參數決定。然后記錄所有的錯誤分類的數目作為那個粒子的適應值?，F在我們就利用PSO來訓練神經網絡來獲得盡可能低的錯誤分類數目。PSO本身并沒有很多的參數需要調整。所以在實驗中只需要調整隱含層的節點數目和權重的范圍以取得較好的分類效果。
6. PSO的參數設置
從上面的例子我們可以看到應用PSO解決優化問題的過程中有兩個重要的步驟: 問題解的編碼和適應度函數
PSO的一個優勢就是采用實數編碼, 不需要像遺傳算法一樣是二進制編碼(或者采用針對實數的遺傳操作.例如對于問題 f(x) = x1^2 + x2^2+x3^2 求解, 粒子可以直接編碼為 (x1, x2, x3), 而適應度函數就是f(x). 接著我們就可以利用前面的過程去尋優.這個尋優過程是一個疊代過程, 中止條件一般為設置為達到最大循環數或者最小錯誤
PSO中并沒有許多需要調節的參數,下面列出了這些參數以及經驗設置
粒子數: 一般取 20 – 40. 其實對于大部分的問題10個粒子已經足夠可以取得好的結果, 不過對于比較難的問題或者特定類別的問題, 粒子數可以取到100 或 200
粒子的長度: 這是由優化問題決定, 就是問題解的長度
粒子的范圍: 由優化問題決定,每一維可是設定不同的范圍
Vmax: 最大速度,決定粒子在一個循環中最大的移動距離,通常設定為粒子的范圍寬度,例如上面的例子里,粒子 (x1, x2, x3) x1 屬于 [-10, 10], 那么 Vmax 的大小就是 20
學習因子: c1 和 c2 通常等于 2. 不過在文獻中也有其他的取值. 但是一般 c1 等于 c2 并且范圍在0和4之間
中止條件: 最大循環數以及最小錯誤要求. 例如, 在上面的神經網絡訓練例子中, 最小錯誤可以設定為1個錯誤分類, 最大循環設定為2000, 這個中止條件由具體的問題確定.
全局PSO和局部PSO: 我們介紹了兩種版本的粒子群優化算法: 全局版和局部版. 前者速度快不過有時會陷入局部最優. 后者收斂速度慢一點不過很難陷入局部最優. 在實際應用中, 可以先用全局PSO找到大致的結果,再有局部PSO進行搜索.
另外的一個參數是慣性權重, 由Shi 和Eberhart提出, 有興趣的可以參考他們1998年的論文(題目: A modified particle swarm optimizer)
7. Online Resources of PSO
The development of PSO is still ongoing. And there are still many unknown areas in PSO research such as the mathematical validation of particle swarm theory.
One can find much information from the internet. Following are some information you can get online:
http://www.particleswarm.net lots of information about Particle Swarms and, particularly, Particle Swarm Optimization. lots of Particle Swarm Links.
http://icdweb.cc.purdue.edu/~hux/PSO.shtml lists an updated bibliography of particle swarm optimization and some online paper links
http://www.researchindex.com/ you can search particle swarm related papers and references.
2006.7.11 13:20 作者：xiao1jun收藏 | 評論：0
蟻群算法
簡介：蟻群算法(ant colony optimization, ACO)，又稱螞蟻算法，是一種用來在圖中尋找優化路徑的機率型技術。它由Marco Dorigo于1992年在他的博士論文中引入，其靈感來源于螞蟻在尋找食物過程中發現路徑的行為。
蟻群算法(ant colony optimization, ACO)，又稱螞蟻算法，是一種用來在圖中尋找優化路徑的機率型技術。它由Marco Dorigo于1992年在他的博士論文中引入，其靈感來源于螞蟻在尋找食物過程中發現路徑的行為。
為什么小小的螞蟻能夠找到食物？他們具有智能么？設想，如果我們要為螞蟻設計一個人工智能的程序，那么這個程序要多么復雜呢？首先，你要讓螞蟻能夠避開障礙物，就必須根據適當的地形給它編進指令讓他們能夠巧妙的避開障礙物，其次，要讓螞蟻找到食物，就需要讓他們遍歷空間上的所有點；再次，如果要讓螞蟻找到最短的路徑，那么需要計算所有可能的路徑并且比較它們的大小，而且更重要的是，你要小心翼翼的編程，因為程序的錯誤也許會讓你前功盡棄。這是多么不可思議的程序！太復雜了，恐怕沒人能夠完成這樣繁瑣冗余的程序。
然而，事實并沒有你想得那么復雜，上面這個程序每個螞蟻的核心程序編碼不過100多行！為什么這么簡單的程序會讓螞蟻干這樣復雜的事情？答案是：簡單規則的涌現。事實上，每只螞蟻并不是像我們想象的需要知道整個世界的信息，他們其實只關心很小范圍內的眼前信息，而且根據這些局部信息利用幾條簡單的規則進行決策，這樣，在蟻群這個集體里，復雜性的行為就會凸現出來。這就是人工生命、復雜性科學解釋的規律！那么，這些簡單規則是什么呢？下面詳細說明：
1、范圍：
螞蟻觀察到的范圍是一個方格世界，螞蟻有一個參數為速度半徑（一般是3），那么它能觀察到的范圍就是3*3個方格世界，并且能移動的距離也在這個范圍之內。
2、環境：
螞蟻所在的環境是一個虛擬的世界，其中有障礙物，有別的螞蟻，還有信息素，信息素有兩種，一種是找到食物的螞蟻灑下的食物信息素，一種是找到窩的螞蟻灑下的窩的信息素。每個螞蟻都僅僅能感知它范圍內的環境信息。環境以一定的速率讓信息素消失。
3、覓食規則：
在每只螞蟻能感知的范圍內尋找是否有食物，如果有就直接過去。否則看是否有信息素，并且比較在能感知的范圍內哪一點的信息素最多，這樣，它就朝信息素多的地方走，并且每只螞蟻多會以小概率犯錯誤，從而并不是往信息素最多的點移動。螞蟻找窩的規則和上面一樣，只不過它對窩的信息素做出反應，而對食物信息素沒反應。
4、移動規則：
每只螞蟻都朝向信息素最多的方向移，并且，當周圍沒有信息素指引的時候，螞蟻會按照自己原來運動的方向慣性的運動下去，并且，在運動的方向有一個隨機的小的擾動。為了防止螞蟻原地轉圈，它會記住最近剛走過了哪些點，如果發現要走的下一點已經在最近走過了，它就會盡量避開。
5、避障規則：
如果螞蟻要移動的方向有障礙物擋住，它會隨機的選擇另一個方向，并且有信息素指引的話，它會按照覓食的規則行為。
7、播撒信息素規則：
每只螞蟻在剛找到食物或者窩的時候撒發的信息素最多，并隨著它走遠的距離，播撒的信息素越來越少。
根據這幾條規則，螞蟻之間并沒有直接的關系，但是每只螞蟻都和環境發生交互，而通過信息素這個紐帶，實際上把各個螞蟻之間關聯起來了。比如，當一只螞蟻找到了食物，它并沒有直接告訴其它螞蟻這兒有食物，而是向環境播撒信息素，當其它的螞蟻經過它附近的時候，就會感覺到信息素的存在，進而根據信息素的指引找到了食物。
問題：
說了這么多，螞蟻究竟是怎么找到食物的呢？
在沒有螞蟻找到食物的時候，環境沒有有用的信息素，那么螞蟻為什么會相對有效的找到食物呢？這要歸功于螞蟻的移動規則，尤其是在沒有信息素時候的移動規則。首先，它要能盡量保持某種慣性，這樣使得螞蟻盡量向前方移動（開始，這個前方是隨機固定的一個方向），而不是原地無謂的打轉或者震動；其次，螞蟻要有一定的隨機性，雖然有了固定的方向，但它也不能像粒子一樣直線運動下去，而是有一個隨機的干擾。這樣就使得螞蟻運動起來具有了一定的目的性，盡量保持原來的方向，但又有新的試探，尤其當碰到障礙物的時候它會立即改變方向，這可以看成一種選擇的過程，也就是環境的障礙物讓螞蟻的某個方向正確，而其他方向則不對。這就解釋了為什么單個螞蟻在復雜的諸如迷宮的地圖中仍然能找到隱蔽得很好的食物。
當然，在有一只螞蟻找到了食物的時候，其他螞蟻會沿著信息素很快找到食物的。
螞蟻如何找到最短路徑的？這一是要歸功于信息素，另外要歸功于環境，具體說是計算機時鐘。信息素多的地方顯然經過這里的螞蟻會多，因而會有更多的螞蟻聚集過來。假設有兩條路從窩通向食物，開始的時候，走這兩條路的螞蟻數量同樣多（或者較長的路上螞蟻多，這也無關緊要）。當螞蟻沿著一條路到達終點以后會馬上返回來，這樣，短的路螞蟻來回一次的時間就短，這也意味著重復的頻率就快，因而在單位時間里走過的螞蟻數目就多，灑下的信息素自然也會多，自然會有更多的螞蟻被吸引過來，從而灑下更多的信息素……；而長的路正相反，因此，越來越多地螞蟻聚集到較短的路徑上來，最短的路徑就近似找到了。也許有人會問局部最短路徑和全局最短路的問題，實際上螞蟻逐漸接近全局最短路的，為什么呢？這源于螞蟻會犯錯誤，也就是它會按照一定的概率不往信息素高的地方走而另辟蹊徑，這可以理解為一種創新，這種創新如果能縮短路途，那么根據剛才敘述的原理，更多的螞蟻會被吸引過來。
引申:
跟著螞蟻的蹤跡，你找到了什么？通過上面的原理敘述和實際操作，我們不難發現螞蟻之所以具有智能行為，完全歸功于它的簡單行為規則，而這些規則綜合起來具有下面兩個方面的特點：
1、多樣性
2、正反饋
多樣性保證了螞蟻在覓食的時候不置走進死胡同而無限循環，正反饋機制則保證了相對優良的信息能夠被保存下來。我們可以把多樣性看成是一種創造能力，而正反饋是一種學習強化能力。正反饋的力量也可以比喻成權威的意見，而多樣性是打破權威體現的創造性，正是這兩點小心翼翼的巧妙結合才使得智能行為涌現出來了。
引申來講，大自然的進化，社會的進步、人類的創新實際上都離不開這兩樣東西，多樣性保證了系統的創新能力，正反饋保證了優良特性能夠得到強化，兩者要恰到好處的結合。如果多樣性過剩，也就是系統過于活躍，這相當于螞蟻會過多的隨機運動，它就會陷入混沌狀態；而相反，多樣性不夠，正反饋機制過強，那么系統就好比一潭死水。這在蟻群中來講就表現為，螞蟻的行為過于僵硬，當環境變化了，螞蟻群仍然不能適當的調整。
既然復雜性、智能行為是根據底層規則涌現的，既然底層規則具有多樣性和正反饋特點，那么也許你會問這些規則是哪里來的？多樣性和正反饋又是哪里來的？我本人的意見：規則來源于大自然的進化。而大自然的進化根據剛才講的也體現為多樣性和正反饋的巧妙結合。而這樣的巧妙結合又是為什么呢？為什么在你眼前呈現的世界是如此栩栩如生呢？答案在于環境造就了這一切，之所以你看到栩栩如生的世界，是因為那些不能夠適應環境的多樣性與正反饋的結合都已經死掉了，被環境淘汰了！
參數說明：
最大信息素：螞蟻在一開始擁有的信息素總量，越大表示程序在較長一段時間能夠存在信息素。信息素消減的速度：隨著時間的流逝，已經存在于世界上的信息素會消減，這個數值越大，那么消減的越快。
錯誤概率表示這個螞蟻不往信息素最大的區域走的概率，越大則表示這個螞蟻越有創新性。
速度半徑表示螞蟻一次能走的最大長度，也表示這個螞蟻的感知范圍。
記憶能力表示螞蟻能記住多少個剛剛走過點的坐標，這個值避免了螞蟻在本地打轉，停滯不前。而這個值越大那么整個系統運行速度就慢，越小則螞蟻越容易原地轉圈。
2006.7.11 13:08 作者：xiao1jun收藏 | 評論：0
智能算法綜述
1 什么是智能算法
智能計算也有人稱之為“軟計算”，是們受自然（生物界）規律的啟迪，根據其原理，模仿求解問題的算法。從自然界得到啟迪，模仿其結構進行發明創造，這就是仿生學。這是我們向自然界學習的一個方面。另一方面，我們還可以利用仿生原理進行設計(包括設計算法)，這就是智能計算的思想。這方面的內容很多，如人工神經網絡技術、遺傳算法、模擬退火算法、模擬退火技術和群集智能技術等。
2 人工神經網絡算法
“人工神經網絡”(ARTIFICIAL NEURALNETWORK，簡稱ANN)是在對人腦組織結構和運行機制的認識理解基礎之上模擬其結構和智能行為的一種工程系統。早在本世紀40年代初期，心理學家McCulloch、數學家Pitts就提出了人工神經網絡的第一個數學模型，從此開創了神經科學理論的研究時代。其后，FRosenblatt、Widrow和J. J .Hopfield等學者又先后提出了感知模型，使得人工神經網絡技術得以蓬勃發展。
神經系統的基本構造是神經元(神經細胞)，它是處理人體內各部分之間相互信息傳遞的基本單元。據神經生物學家研究的結果表明，人的一個大腦一般有1010～1011個神經元。每個神經元都由一個細胞體，一個連接其他神經元的軸突和一些向外伸出的其它較短分支——樹突組成。軸突的功能是將本神經元的輸出信號(興奮)傳遞給別的神經元。其末端的許多神經末梢使得興奮可以同時傳送給多個神經元。樹突的功能是接受來自其它神經元的興奮。神經元細胞體將接受到的所有信號進行簡單處理(如：加權求和，即對所有的輸入信號都加以考慮且對每個信號的重視程度——體現在權值上——有所不同)后由軸突輸出。神經元的樹突與另外的神經元的神經末梢相連的部分稱為突觸。
2.1 人工神經網絡的特點
人工神經網絡是由大量的神經元廣泛互連而成的系統，它的這一結構特點決定著人工神經網絡具有高速信息處理的能力。人腦的每個神經元大約有103～104個樹突及相應的突觸，一個人的大腦總計約形成1014～1015個突觸。用神經網絡的術語來說，即是人腦具有1014～1015個互相連接的存儲潛力。雖然每個神經元的運算功能十分簡單，且信號傳輸速率也較低(大約100次/秒)，但由于各神經元之間的極度并行互連功能，最終使得一個普通人的大腦在約1秒內就能完成現行計算機至少需要數10億次處理步驟才能完成的任務。
人工神經網絡的知識存儲容量很大。在神經網絡中，知識與信息的存儲表現為神經元之間分布式的物理聯系。它分散地表示和存儲于整個網絡內的各神經元及其連線上。每個神經元及其連線只表示一部分信息，而不是一個完整具體概念。只有通過各神經元的分布式綜合效果才能表達出特定的概念和知識。
由于人工神經網絡中神經元個數眾多以及整個網絡存儲信息容量的巨大，使得它具有很強的不確定性信息處理能力。即使輸入信息不完全、不準確或模糊不清，神經網絡仍然能夠聯想思維存在于記憶中的事物的完整圖象。只要輸入的模式接近于訓練樣本，系統就能給出正確的推理結論。
正是因為人工神經網絡的結構特點和其信息存儲的分布式特點，使得它相對于其它的判斷識別系統，如：專家系統等，具有另一個顯著的優點：健壯性。生物神經網絡不會因為個別神經元的損失而失去對原有模式的記憶。最有力的證明是，當一個人的大腦因意外事故受輕微損傷之后，并不會失去原有事物的全部記憶。人工神經網絡也有類似的情況。因某些原因，無論是網絡的硬件實現還是軟件實現中的某個或某些神經元失效，整個網絡仍然能繼續工作。
人工神經網絡是一種非線性的處理單元。只有當神經元對所有的輸入信號的綜合處理結果超過某一門限值后才輸出一個信號。因此神經網絡是一種具有高度非線性的超大規模連續時間動力學系統。它突破了傳統的以線性處理為基礎的數字電子計算機的局限，標志著人們智能信息處理能力和模擬人腦智能行為能力的一大飛躍。
2.2 幾種典型神經網絡簡介
2.2.1 多層感知網絡(誤差逆傳播神經網絡)
在1986年以Rumelhart和McCelland為首的科學家出版的《ParallelDistributed Processing》一書中，完整地提出了誤差逆傳播學習算法，并被廣泛接受。多層感知網絡是一種具有三層或三層以上的階層型神經網絡。典型的多層感知網絡是三層、前饋的階層網絡，即：輸入層I、隱含層(也稱中間層)J和輸出層K。相鄰層之間的各神經元實現全連接，即下一層的每一個神經元與上一層的每個神經元都實現全連接，而且每層各神經元之間無連接。
但BP網并不是十分的完善，它存在以下一些主要缺陷：學習收斂速度太慢、網絡的學習記憶具有不穩定性，即：當給一個訓練好的網提供新的學習記憶模式時，將使已有的連接權值被打亂，導致已記憶的學習模式的信息的消失。
2.2.2 競爭型(KOHONEN)神經網絡
它是基于人的視網膜及大腦皮層對剌激的反應而引出的。神經生物學的研究結果表明：生物視網膜中，有許多特定的細胞，對特定的圖形(輸入模式)比較敏感，并使得大腦皮層中的特定細胞產生大的興奮，而其相鄰的神經細胞的興奮程度被抑制。對于某一個輸入模式，通過競爭在輸出層中只激活一個相應的輸出神經元。許多輸入模式，在輸出層中將激活許多個神經元，從而形成一個反映輸入數據的“特征圖形”。競爭型神經網絡是一種以無教師方式進行網絡訓練的網絡。它通過自身訓練，自動對輸入模式進行分類。競爭型神經網絡及其學習規則與其它類型的神經網絡和學習規則相比，有其自己的鮮明特點。在網絡結構上，它既不象階層型神經網絡那樣各層神經元之間只有單向連接，也不象全連接型網絡那樣在網絡結構上沒有明顯的層次界限。它一般是由輸入層(模擬視網膜神經元)和競爭層(模擬大腦皮層神經元，也叫輸出層)構成的兩層網絡。兩層之間的各神經元實現雙向全連接，而且網絡中沒有隱含層。有時競爭層各神經元之間還存在橫向連接。競爭型神經網絡的基本思想是網絡競爭層各神經元競爭對輸入模式的響應機會，最后僅有一個神經元成為競爭的勝者，并且只將與獲勝神經元有關的各連接權值進行修正，使之朝著更有利于它競爭的方向調整。神經網絡工作時，對于某一輸入模式，網絡中與該模式最相近的學習輸入模式相對應的競爭層神經元將有最大的輸出值，即以競爭層獲勝神經元來表示分類結果。這是通過競爭得以實現的，實際上也就是網絡回憶聯想的過程。
除了競爭的方法外，還有通過抑制手段獲取勝利的方法，即網絡競爭層各神經元抑制所有其它神經元對輸入模式的響應機會，從而使自己“脫穎而出”，成為獲勝神經元。除此之外還有一種稱為側抑制的方法，即每個神經元只抑制與自己鄰近的神經元，而對遠離自己的神經元不抑制。這種方法常常用于圖象邊緣處理，解決圖象邊緣的缺陷問題。
競爭型神經網絡的缺點和不足：因為它僅以輸出層中的單個神經元代表某一類模式。所以一旦輸出層中的某個輸出神經元損壞，則導致該神經元所代表的該模式信息全部丟失。
2.2.3 Hopfield神經網絡
1986年美國物理學家J.J.Hopfield陸續發表幾篇論文，提出了Hopfield神經網絡。他利用非線性動力學系統理論中的能量函數方法研究反饋人工神經網絡的穩定性，并利用此方法建立求解優化計算問題的系統方程式?；镜腍opfield神經網絡是一個由非線性元件構成的全連接型單層反饋系統。
網絡中的每一個神經元都將自己的輸出通過連接權傳送給所有其它神經元，同時又都接收所有其它神經元傳遞過來的信息。即：網絡中的神經元t時刻的輸出狀態實際上間接地與自己的t-1時刻的輸出狀態有關。所以Hopfield神經網絡是一個反饋型的網絡。其狀態變化可以用差分方程來表征。反饋型網絡的一個重要特點就是它具有穩定狀態。當網絡達到穩定狀態的時候，也就是它的能量函數達到最小的時候。這里的能量函數不是物理意義上的能量函數，而是在表達形式上與物理意義上的能量概念一致，表征網絡狀態的變化趨勢，并可以依據Hopfield工作運行規則不斷進行狀態變化，最終能夠達到的某個極小值的目標函數。網絡收斂就是指能量函數達到極小值。如果把一個最優化問題的目標函數轉換成網絡的能量函數，把問題的變量對應于網絡的狀態，那么Hopfield神經網絡就能夠用于解決優化組合問題。
對于同樣結構的網絡，當網絡參數(指連接權值和閥值)有所變化時，網絡能量函數的極小點(稱為網絡的穩定平衡點)的個數和極小值的大小也將變化。因此，可以把所需記憶的模式設計成某個確定網絡狀態的一個穩定平衡點。若網絡有M個平衡點，則可以記憶M個記憶模式。
當網絡從與記憶模式較靠近的某個初始狀態(相當于發生了某些變形或含有某些噪聲的記憶模式，也即：只提供了某個模式的部分信息)出發后，網絡按Hopfield工作運行規則進行狀態更新，最后網絡的狀態將穩定在能量函數的極小點。這樣就完成了由部分信息的聯想過程。
Hopfield神經網絡的能量函數是朝著梯度減小的方向變化，但它仍然存在一個問題，那就是一旦能量函數陷入到局部極小值，它將不能自動跳出局部極小點，到達全局最小點，因而無法求得網絡最優解。
3 遺傳算法
遺傳算法（Genetic Algorithms）是基于生物進化理論的原理發展起來的一種廣為應用的、高效的隨機搜索與優化的方法。其主要特點是群體搜索策略和群體中個體之間的信息交換，搜索不依賴于梯度信息。它是在70年代初期由美國密執根（Michigan）大學的霍蘭（Holland）教授發展起來的。1975年霍蘭教授發表了第一本比較系統論述遺傳算法的專著《自然系統與人工系統中的適應性》（《Adaptationin Natural and Artificial Systems》）。遺傳算法最初被研究的出發點不是為專門解決最優化問題而設計的，它與進化策略、進化規劃共同構成了進化算法的主要框架，都是為當時人工智能的發展服務的。迄今為止，遺傳算法是進化算法中最廣為人知的算法。
近幾年來，遺傳算法主要在復雜優化問題求解和工業工程領域應用方面，取得了一些令人信服的結果，所以引起了很多人的關注。在發展過程中，進化策略、進化規劃和遺傳算法之間差異越來越小。遺傳算法成功的應用包括：作業調度與排序、可靠性設計、車輛路徑選擇與調度、成組技術、設備布置與分配、交通問題等等。
3.1 特點
遺傳算法是解決搜索問題的一種通用算法，對于各種通用問題都可以使用。搜索算法的共同特征為： ① 首先組成一組候選解； ② 依據某些適應性條件測算這些候選解的適應度； ③ 根據適應度保留某些候選解，放棄其他候選解； ④ 對保留的候選解進行某些操作，生成新的候選解。在遺傳算法中，上述幾個特征以一種特殊的方式組合在一起：基于染色體群的并行搜索，帶有猜測性質的選擇操作、交換操作和突變操作。這種特殊的組合方式將遺傳算法與其它搜索算法區別開來。
遺傳算法還具有以下幾方面的特點：
(1)遺傳算法從問題解的串集開始嫂索，而不是從單個解開始。這是遺傳算法與傳統優化算法的極大區別。傳統優化算法是從單個初始值迭代求最優解的；容易誤入局部最優解。遺傳算法從串集開始搜索，覆蓋面大，利于全局擇優。
(2)許多傳統搜索算法都是單點搜索算法，容易陷入局部的最優解。遺傳算法同時處理群體中的多個個體，即對搜索空間中的多個解進行評估，減少了陷入局部最優解的風險，同時算法本身易于實現并行化。
(3)遺傳算法基本上不用搜索空間的知識或其它輔助信息，而僅用適應度函數值來評估個體，在此基礎上進行遺傳操作。適應度函數不僅不受連續可微的約束，而且其定義域可以任意設定。這一特點使得遺傳算法的應用范圍大大擴展。
(4)遺傳算法不是采用確定性規則，而是采用概率的變遷規則來指導他的搜索方向。
(5)具有自組織、自適應和自學習性。遺傳算法利用進化過程獲得的信息自行組織搜索時，硬度大的個體具有較高的生存概率，并獲得更適應環境的基因結構。
3.2 運用領域
前面描述是簡單的遺傳算法模型，可以在這一基本型上加以改進，使其在科學和工程領域得到廣泛應用。下面列舉了一些遺傳算法的應用領域： ① 優化：遺傳算法可用于各種優化問題。既包括數量優化問題，也包括組合優化問題。 ② 程序設計：遺傳算法可以用于某些特殊任務的計算機程序設計。 ③ 機器學習：遺傳算法可用于許多機器學習的應用，包括分類問題和預測問題等。 ④ 經濟學：應用遺傳算法對經濟創新的過程建立模型，可以研究投標的策略，還可以建立市場競爭的模型。 ⑤ 免疫系統：應用遺傳算法可以對自然界中免疫系統的多個方面建立模型，研究個體的生命過程中的突變現象以及發掘進化過程中的基因資源。 ⑥ 進化現象和學習現象：遺傳算法可以用來研究個體是如何學習生存技巧的，一個物種的進化對其他物種會產生何種影響等等。 ⑦ 社會經濟問題：遺傳算法可以用來研究社會系統中的各種演化現象，例如在一個多主體系統中，協作與交流是如何演化出來的。
4 模擬退火算法
模擬退火算法來源于固體退火原理，將固體加溫至充分高，再讓其徐徐冷卻，加溫時，固體內部粒子隨溫升變為無序狀，內能增大，而徐徐冷卻時粒子漸趨有序，在每個溫度都達到平衡態，最后在常溫時達到基態，內能減為最小。根據Metropolis準則，粒子在溫度T時趨于平衡的概率為e-ΔE/(kT)，其中E為溫度T時的內能，ΔE為其改變量，k為Boltzmann常數。用固體退火模擬組合優化問題，將內能E模擬為目標函數值f ，溫度T演化成控制參數t，即得到解組合優化問題的模擬退火算法：由初始解i和控制參數初值t開始，對當前解重復“產生新解→計算目標函數差→接受或舍棄”的迭代，并逐步衰減t值，算法終止時的當前解即為所得近似最優解，這是基于蒙特卡羅迭代求解法的一種啟發式隨機搜索過程。退火過程由冷卻進度表(CoolingSchedule)控制，包括控制參數的初值t及其衰減因子Δt、每個t值時的迭代次數L和停止條件S。
5 群體（群集）智能（Swarm Intelligence）
受社會性昆蟲行為的啟發，計算機工作者通過對社會性昆蟲的模擬產生了一系列對于傳統問題的新的解決方法，這些研究就是群集智能的研究。群集智能(Swarm Intelligence)中的群體(Swarm)指的是“一組相互之間可以進行直接通信或者間接通信(通過改變局部環境)的主體，這組主體能夠合作進行分布問題求解”。而所謂群集智能指的是“無智能的主體通過合作表現出智能行為的特性”。群集智能在沒有集中控制并且不提供全局模型的前提下，為尋找復雜的分布式問題的解決方案提供了基礎。
群集智能的特點和優點：群體中相互合作的個體是分布式的(Distributed)，這樣更能夠適應當前網絡環境下的工作狀態; 沒有中心的控制與數據，這樣的系統更具有魯棒性(Robust)，不會由于某一個或者某幾個個體的故障而影響整個問題的求解。可以不通過個體之間直接通信而是通過非直接通信(Stimergy)進行合作，這樣的系統具有更好的可擴充性(Scalability)。由于系統中個體的增加而增加的系統的通信開銷在這里十分小。系統中每個個體的能力十分簡單，這樣每個個體的執行時間比較短，并且實現也比較簡單，具有簡單性(Simplicity)。因為具有這些優點，雖說群集智能的研究還處于初級階段，并且存在許多困難，但是可以預言群集智能的研究代表了以后計算機研究發展的一個重要方向。
在計算智能(ComputationalIntelligence)領域有兩種基于群智能的算法，蟻群算法(Ant Colony Optimization)和粒子群算法(ParticleSwarm Optimization)，前者是對螞蟻群落食物采集過程的模擬，已經成功運用在很多離散優化問題上。
5.1 蟻群優化算法
受螞蟻覓食時的通信機制的啟發，90年代Dorigo提出了蟻群優化算法(Ant ColonyOptimization，ACO)來解決計算機算法學中經典的“貨郎擔問題”。如果有n個城市，需要對所有n個城市進行訪問且只訪問一次的最短距離。
在解決貨郎擔問題時，蟻群優化算法設計虛擬的“螞蟻”將摸索不同路線，并留下會隨時間逐漸消失的虛擬“信息素”。虛擬的“信息素”也會揮發，每只螞蟻每次隨機選擇要走的路徑，它們傾向于選擇路徑比較短的、信息素比較濃的路徑。根據“信息素較濃的路線更近"的原則，即可選擇出最佳路線。由于這個算法利用了正反饋機制，使得較短的路徑能夠有較大的機會得到選擇，并且由于采用了概率算法，所以它能夠不局限于局部最優解。
蟻群優化算法對于解決貨郎擔問題并不是目前最好的方法，但首先，它提出了一種解決貨郎擔問題的新思路；其次由于這種算法特有的解決方法，它已經被成功用于解決其他組合優化問題，例如圖的著色(GraphColoring)以及最短超串(Shortest Common Supersequence)等問題。
5.2 粒子群優化算法
粒子群優化算法(PSO)是一種進化計算技術(EvolutionaryComputation)，有Eberhart博士和Kennedy博士發明。源于對鳥群捕食的行為研究。
PSO同遺傳算法類似，是一種基于疊代的優化工具。系統初始化為一組隨機解，通過疊代搜尋最優值。但是并沒有遺傳算法用的交叉(crossover)以及變異(mutation)。而是粒子在解空間追隨最優的粒子進行搜索。
同遺傳算法比較，PSO的優勢在于簡單容易實現并且沒有許多參數需要調整。目前已廣泛應用于函數優化，神經網絡訓練，模糊系統控制以及其他遺傳算法的應用領域。
粒子群優化算法(PSO) 也是起源對簡單社會系統的模擬，最初設想是模擬鳥群覓食的過程，但后來發現PSO是一種很好的優化工具。
5.2.1 算法介紹
PSO模擬鳥群的捕食行為。一群鳥在隨機搜索食物，在這個區域里只有一塊食物。所有的鳥都不知道食物在那里。但是他們知道當前的位置離食物還有多遠。那么找到食物的最優策略是什么呢。最簡單有效的就是搜尋目前離食物最近的鳥的周圍區域。
PSO從這種模型中得到啟示并用于解決優化問題。PSO中，每個優化問題的解都是搜索空間中的一只鳥。我們稱之為“粒子”。所有的粒子都有一個由被優化的函數決定的適應值(fitnessvalue)，每個粒子還有一個速度決定他們飛翔的方向和距離。然后粒子們就追隨當前的最優粒子在解空間中搜索。
PSO初始化為一群隨機粒子(隨機解)，然后通過疊代找到最優解，在每一次疊代中，粒子通過跟蹤兩個“極值”來更新自己。第一個就是粒子本身所找到的最優解，這個解叫做個體極值pBest，另一個極值是整個種群目前找到的最優解，這個極值是全局極值gBest。另外也可以不用整個種群而只是用其中一部分最優粒子的鄰居，那么在所有鄰居中的極值就是局部極值。
5.2.2 PSO算法過程
① 種群隨機初始化。
② 對種群內的每一個個體計算適應值(fitness value)。適應值與最優解的距離直接有關。
③ 種群根據適應值進行復制 。
④ 如果終止條件滿足的話，就停止，否則轉步驟 ② 。
從以上步驟，我們可以看到PSO和遺傳算法有很多共同之處。兩者都隨機初始化種群，而且都使用適應值來評價系統，而且都根據適應值來進行一定的隨機搜索。兩個系統都不是保證一定找到最優解。但是，PSO沒有遺傳操作如交叉(crossover)和變異(mutation)，而是根據自己的速度來決定搜索。粒子還有一個重要的特點，就是有記憶。
與遺傳算法比較，PSO的信息共享機制是很不同的。在遺傳算法中，染色體(chromosomes)互相共享信息，所以整個種群的移動是比較均勻的向最優區域移動。在PSO中, 只有gBest (orlBest) 給出信息給其他的粒子， 這是單向的信息流動。整個搜索更新過程是跟隨當前最優解的過程。與遺傳算法比較, 在大多數的情況下，所有的粒子可能更快的收斂于最優解。
現在已經有一些利用PSO代替反向傳播算法來訓練神經網絡的論文。研究表明PSO 是一種很有潛力的神經網絡算法，同時PSO速度比較快而且可以得到比較好的結果。
6 展望
目前的智能計算研究水平暫時還很難使“智能機器”真正具備人類的常識，但智能計算將在21世紀蓬勃發展。不僅僅只是功能模仿要持有信息機理一致的觀點。即人工腦與生物腦將不只是功能模仿，而是具有相同的特性。這兩者的結合將開辟一個全新的領域，開辟很多新的研究方向。智能計算將探索智能的新概念，新理論，新方法和新技術，而這一切將在以后的發展中取得重大成就。
總結
- 上一篇： 蚁群算法，PSO算法以及两种算法可以融合
- 下一篇： 提高效率的几个软件和快捷键