马尔可夫网络,(马尔可夫随机场、无向图模型)(Markov Random Field)
轉載自:?http://blog.sina.com.cn/s/blog_54d222750101dgz2.html
?
馬爾可夫網絡,(馬爾可夫隨機場、無向圖模型)是關于一組有馬爾可夫性質隨機變量的全聯合概率分布模型。
?????馬爾可夫網絡類似貝葉斯網絡用于表示依賴關系。但是,一方面它可以表示貝葉斯網絡無法表示的一些依賴關系,如循環依賴;另一方面,它不能表示貝葉斯網絡能夠表示的某些關系,如推導關系。馬爾可夫網絡的原型是易辛模型,最初是用來說明該模型的基本假設。
?????用前蘇聯數學家辛欽(1894-1959〕的話來說,就是承認客觀世界中有這樣一種現象,其未來由現在決定的程度,使得我們關于過去的知識絲毫不影響這種決定性。這種在已知“現在”的條件下,“未來”與“過去”彼此獨立的特性就被稱為馬爾科夫性,具有這種性質的隨機過程就叫做馬爾科夫過程,其最原始的模型就是馬爾科夫鏈。這即是對荷蘭數學家惠更斯(Ch. Huygens, 1629-1659)提出的無后效原理的概率推廣,也是對法國數學家拉普拉斯(P. S. Laplace, 1749-1827)機械決定論的否定。
????馬爾可夫性質:
????它指的是一個隨機變量序列按時間先后關系依次排開的時候,第N+1時刻的分布特性,與N時刻以前的隨機變量的取值無關。拿天氣來打個比方。如果我們假定天氣是馬爾可夫的,其意思就是我們假設今天的天氣僅僅與昨天的天氣存在概率上的關聯,而與前天及前天以前的天氣沒有關系。其它如傳染病和謠言的傳播規律,就是馬爾可夫的。?
????隨機場:
????當給每一個位置中按照某種分布隨機賦予相空間的一個值之后,其全體就叫做隨機場。我們不妨拿種地來打個比方。其中有兩個概念:位置(site),相空間(phase space)?!拔恢谩焙帽仁且划€畝農田;“相空間”好比是種的各種莊稼。我們可以給不同的地種上不同的莊稼,這就好比給隨機場的每個“位置”,賦予相空間里不同的值。所以,俗氣點說,隨機場就是在哪塊地里種什么莊稼的事情。?
????馬爾可夫隨機場:
????也叫馬爾可夫網,拿種地打比方,如果任何一塊地里種的莊稼的種類僅僅與它鄰近的地里種的莊稼的種類有關,與其它地方的莊稼的種類無關,那么這些地里種的莊稼的集合,就是一個馬爾可夫隨機場。
????無向圖模型也叫馬爾科夫隨機場(Markov?Random?Fields)或馬爾科夫網絡(Markov?Network),無向圖模型有一個簡單的獨立定義:兩個節點集A、B都與給定的第三個節點集C相互條件獨立,A、B節點之間的路徑都被C中的節點分開。
????相比之下,有向圖模型也叫貝葉斯網絡(Bayesian?networks)或信念網絡(Belief?Networks),有向圖模型有一個更復雜的獨立性觀念。
?
形式化定義:
?
形式上,一個馬爾可夫網絡包括:
- 一個無向圖?G?= (V,E),每個頂點?v?∈V?表示一個在集合的隨機變量,每條邊 {u,v} ∈?E?表示隨機變量u?和?v之間的一種依賴關系。
- 一個函數集合?(也稱為因子?或者?團因子?有時也稱為特征),每一個??的定義域是圖G的團或子團k. 每一個?是從可能的特定聯合的指派(到元素k)到非負實數的映射。
聯合分布函數:
-
聯合分布(吉布斯測度)用馬爾可夫網絡可以表示為:
其中是向量,是隨機變量在第k個團的狀態(?是在第k個團中包含的節點數。),乘積包括了圖中的所有團。注意馬爾可夫性質在團內的節點存在,在團之間是不存在依賴關系的。這里,?是配分函數,有
.
實際上,馬爾可夫網聯絡經常表示為對數線性模型。通過引入特征函數?,得到
和
以及劃分函數
?。
其中,是權重,是勢函數,映射團到實數。這些函數有時亦稱為吉布斯勢;術語勢?源于物理,通常從字面上理解為在臨近位置產生的勢能。
對數線性模型是對勢能的一種便捷的解釋方式。一個這樣的模型可以簡約的表示很多分布,特別是在領域很大的時候。另一方面,負的似然函數是凸函數也帶來便利。但是即便對數線性的馬爾可夫網絡似然函數是凸函數,計算似然函數的梯度仍舊需要模型推理,而這樣的推理通常是難以計算的。
馬爾可夫性質:
????馬爾可夫網絡有這樣的馬爾可夫性質:圖的頂點u在狀態的概率只依賴頂點u的最近臨節點,并且頂點u對圖中的其他任何節點是條件獨立的。該性質表示為
頂點u的最近臨節點集合?也稱為頂點u的馬爾可夫毯。
馬爾科夫隨機場 - 馬爾科夫鏈的數學描述
??????????????????????????????
?
????????????????????????????????
?
?????????????????????????????????
??????
????????????????????????????????
???????????????????????????
????????????????????????????????????
?
???????????????????????????????????
?
?
馬爾科夫隨機場 - 馬爾科夫隨機場的數學描述
???????????????????????????????????
??
????????????????????????????????
?
?
?
???????????????????????????????
?
????????????????????????????????
總結
以上是生活随笔為你收集整理的马尔可夫网络,(马尔可夫随机场、无向图模型)(Markov Random Field)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Oracle 表空间错误集锦
- 下一篇: uniitest怎么传参数