高斯过程分类原理
高斯過程原理：
? ? ? ?連續(xù)型變量中最普遍的分布就是高斯分布，即正態(tài)分布，也是學(xué)習(xí)和生活中接觸最廣的分布。一元
高斯分布由均值???和方差??2?兩個(gè)參數(shù)所確定。其概率密度形如：
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
? ? ?多元高斯分布由均值向量?E x?( )?和協(xié)方差矩陣cov( )?x?所確定，協(xié)方差矩陣式對稱且正定，其概率
密度形如：
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
? ? ?高斯過程是隨機(jī)變量的集合，假設(shè)輸入為X={x1.x2.x3.x4,,,,},則對應(yīng)的輸出隨機(jī)變量函數(shù)為f={f1,f2,f3,f4,.....}.在任一時(shí)刻觀察這個(gè)隨機(jī)過程，
概率分布均服從聯(lián)合高斯分布，就是高斯過程，高斯過程由均值函數(shù)m(X)和協(xié)方差矩陣k(x,x1)組成。
? ??
? ? 二分類問題：
? ?二分類問題的基本思想是通過確定一個(gè)合適的映射函數(shù)f(X)，使之能夠?qū)y試樣本x進(jìn)行預(yù)測，GPC模型在解決二分類問題時(shí)，首先假設(shè)F(x）是一個(gè)高斯過程，然后通過貝葉斯原理獲得合適的f(X)。
? 高斯過程模型用于分類的實(shí)現(xiàn)思想：
? 假設(shè)n個(gè)學(xué)習(xí)樣本集，S{(x,y)|y=+-1,i=1,2,3,...n},類標(biāo)簽y是獨(dú)立同分布，條件概率p(y|f)。在二分類問題中，樣本x屬于類標(biāo)簽y的概率可以表示成：
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
? ? ? ? ? ? ? ? ?
我們可以得到似然函數(shù)：
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
高斯過程分類就是對f(X)施加均值為0，協(xié)方差為K的高斯分布先驗(yàn)，即：f(x)~~GP(0,K),則p(f|x）是一個(gè)多維高斯密度函數(shù)：
? ? ? ? ? ? ? ? ? ? ? ? ? ??
貝葉斯公式可得到后驗(yàn)概率：
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
這個(gè)問題的解是：
? ? ? ? ? ? ? ? ? ? ? ? ? ??
? ? ? ? ? ? ? ? ??
《新程序員》：云原生和全面數(shù)字化實(shí)踐50位技術(shù)專家共同創(chuàng)作，文字、視頻、音頻交互閱讀總結(jié)
