第13章——不確定的量化

人工智能一種現(xiàn)代化的學(xué)習(xí)方法（第3版）學(xué)習(xí)筆記。

• 13.1不確定環(huán)境下的行動(dòng)
• 13.2基本概率符號(hào)
• 13.3使用完全聯(lián)合分布進(jìn)行推理
• 13.4獨(dú)立性
• 13.5貝葉斯規(guī)則及其應(yīng)用
• 13.6重游Wumpus世界
• 13.7本章小結(jié)
• 文獻(xiàn)與歷史注釋

---

13.1不確定環(huán)境下的行動(dòng)

決策理論 = 概率理論 + 效用理論
決策理論基本思想：
一個(gè)Agent是理性的，當(dāng)且僅當(dāng)它選擇能產(chǎn)生最高期望效用的行動(dòng)，這里的期望效用是行動(dòng)的所有可能結(jié)果的平均。這成為期望效用最大化（Maximum Expected Utility, MEU）。

先驗(yàn)概率（無(wú)條件概率）
是指根據(jù)以往經(jīng)驗(yàn)和分析得到的概率，如全概率公式，它往往作為”由因求果”問(wèn)題中的”因”出現(xiàn)的概率·
后驗(yàn)概率（條件概率）
基于新的信息，修正原來(lái)的先驗(yàn)概率后所獲得的更接近實(shí)際情況的概率估計(jì)。

13.2.2概率斷言中的命題語(yǔ)言

隨機(jī)變量
變量的名字以大寫(xiě)字母開(kāi)頭，比如投擲兩個(gè)一樣的骰子，他們的點(diǎn)數(shù)之和Total就是隨機(jī)變量。Total的定義域是{2,…,12};一個(gè)布爾變量的定義域是{true,false}(變量的值總是小寫(xiě)）。
例：
“如果患者是一個(gè)沒(méi)有牙痛的青少年，那么他有牙洞的概率是0.1” => P(cavity|?toothache^teen)=0.1

13.3使用完全聯(lián)合分布進(jìn)行推理

例：
三個(gè)布爾變量
- Toothache,牙痛
- Cavity,牙洞
- Catch,牙醫(yī)的鋼探針不潔導(dǎo)致牙齦感染
對(duì)應(yīng)的完全聯(lián)合分布2x2x2的表格:

（1）將使命題為真的概率相加
P(cavity∨toothache)=0.108+0.012+0.072+0.008+0.016+0.064=0.28(∨是邏輯或）
（2）無(wú)條件概率（邊緣概率）
P(cavity)=0.108+0.012+0.072+0.008=0.2

13.4獨(dú)立性

計(jì)算，P(toothace,catch,cavity,cloudy)=P(cloudy|toothace,catch,cavity)P(toothace,catch,cavity)
因?yàn)閏loudy與toothace,catch,cavity互相獨(dú)立，
所以，P(cloudy|toothace,catch,cavity)=P(cloudy)
所以，P(toothace,catch,cavity,cloudy)=P(cloudy) P(toothace,catch,cavity)

13.5貝葉斯規(guī)則及其應(yīng)用

常用形式：

通用形式：

例：
醫(yī)生知道腦膜炎會(huì)引起病人脖子僵硬，比如有70%的機(jī)會(huì)。醫(yī)生還了解一些無(wú)條件事實(shí)：病人患腦膜炎的先驗(yàn)概率是1/50000,而任何一個(gè)脖子僵硬的先驗(yàn)概率為1%，令s表示“病人脖子僵硬”的命題，m表示“病人患有腦膜炎”的命題，則有

也就是說(shuō)，我們期望700個(gè)有脖子僵硬癥狀的病人中只有不到1個(gè)人患有腦膜炎。注意，盡管腦膜炎相當(dāng)強(qiáng)烈地預(yù)示著會(huì)有脖子僵硬的癥狀（概率為0.7），但脖子僵硬的病人患有腦膜炎的 概率依然很低。這是因?yàn)椴弊咏┯驳南闰?yàn)概率大大高于患腦膜炎的先驗(yàn)概率。
樸素貝葉斯：
參考算法雜貨鋪——分類(lèi)算法之樸素貝葉斯分類(lèi)(Naive Bayesian classification)

例：
實(shí)驗(yàn)內(nèi)容：
利用貝葉斯算法或者決策樹(shù)算法進(jìn)行數(shù)據(jù)分類(lèi)操作
數(shù)據(jù)集：汽車(chē)評(píng)估數(shù)據(jù)集(見(jiàn)附錄CarDatas.txt)
實(shí)驗(yàn)步驟：
1．仔細(xì)閱讀并了解實(shí)驗(yàn)數(shù)據(jù)集；
2．使用任何一種熟悉的計(jì)算機(jī)語(yǔ)言(比如C,Java或者matlab)實(shí)現(xiàn)樸素貝葉斯算法或者決策樹(shù)算法；
3．利用樸素貝葉斯算法或者決策樹(shù)算法在訓(xùn)練數(shù)據(jù)上學(xué)習(xí)分類(lèi)器,訓(xùn)練數(shù)據(jù)的大小分別設(shè)置為：前100個(gè)數(shù)據(jù)，前200個(gè)數(shù)據(jù)，前500個(gè)數(shù)據(jù)，前700個(gè)數(shù)據(jù)，前1000個(gè)數(shù)據(jù)，前1350個(gè)數(shù)據(jù)；
4．利用測(cè)試數(shù)據(jù)對(duì)學(xué)習(xí)的分類(lèi)器進(jìn)行性能評(píng)估；
5．統(tǒng)計(jì)分析實(shí)驗(yàn)結(jié)果并上交實(shí)驗(yàn)報(bào)告；
實(shí)驗(yàn)思路：

#include<iostream> #include<cstdlib> #include<cstring> #include<vector> #include<fstream> #include<stdio.h> using namespace std;int countTrain = 0;//訓(xùn)練樣本數(shù)目 int countTest = 0;//測(cè)試樣本數(shù)目 int countTestSuc = 0;//測(cè)試樣本正確的數(shù)目 int countF=100; //訓(xùn)練和測(cè)試的分界 string CVname[4]={"unacc","acc","good","vgood"}; int ClassValues[4]; //unacc, acc, good, vgood int buying[4][4]; //vhigh, high, med, low. int maint[4][4]; // vhigh, high, med, low. int doors[4][4]; //2, 3, 4, 5more. int persons[4][4]; //2, 4, more. int lug_boot[4][4]; //small, med, big. int safety[4][4]; //low, med, high. float ClassValuesL[4]; //unacc, acc, good, vgood float buyingL[4][4]; //vhigh, high, med, low. float maintL[4][4]; // vhigh, high, med, low. float doorsL[4][4]; //2, 3, 4, 5more. float personsL[4][4]; //2, 4, more. float lug_bootL[4][4]; //small, med, big. float safetyL[4][4]; //low, med, high. //統(tǒng)計(jì)個(gè)數(shù) void Tonji(string a,string b,string c,string d,string e,string f,string g){ //cout<<a<<" "<<b<<" "<<c<<" "<<d<<" "<<e<<" "<<f<<" "<<g<<endl; for(int i=0;i<4;i++)if(g==CVname[i]){ClassValues[i]++;//buying: vhigh, high, med, low.if(a=="vhigh") buying[0][i]++;else if(a=="high") buying[1][i]++;else if(a=="med") buying[2][i]++;else if(a=="low") buying[3][i]++;//maint: vhigh, high, med, low. if(b=="vhigh") maint[0][i]++;else if(b=="high") maint[1][i]++;else if(b=="med") maint[2][i]++;else if(b=="low") maint[3][i]++;//doors: 2, 3, 4, 5more.if(c=="2") doors[0][i]++;else if(c=="3") doors[1][i]++;else if(c=="4") doors[2][i]++;else doors[3][i]++;//persons: 2, 4, more. if(d=="2") persons[0][i]++;else if(d=="4") persons[1][i]++;else persons[2][i]++;//lug_boot: small, med, big.if(e=="small") lug_boot[0][i]++;else if(e=="med") lug_boot[1][i]++;else if(e=="big") lug_boot[2][i]++;//safety: low, med, high. if(f=="low") safety[0][i]++;else if(f=="med") safety[1][i]++;else if(f=="high") safety[2][i]++;break;} } //讀取文件 void ReadFileTrain(){ifstream fin("CarDatas.txt");string a,b,c,d,e,f,g;int i = countF;while((i--)>0 && fin>>a && fin>>b&& fin>>c && fin>>d && fin>>e && fin>>f && fin>>g){countTrain++;Tonji(a,b,c,d,e,f,g); }fin.close();cout<<"訓(xùn)練樣本countTrain="<<countTrain<<endl; } //統(tǒng)計(jì)得到在各類(lèi)別下各個(gè)特征屬性的條件概率估計(jì) void CalAP(){ //概率P(yi)for(int i=0;i<4;i++){ClassValuesL[i] = (float) ClassValues[i]/countTrain;}//特別注意的是P(ai|yi)=ai/0的情況！！！，會(huì)使 P(ai|yi)等于nan; for(int i=0;i<4;i++){ //概率P(ai|yi) for(int j=0;j<4;j++){buyingL[i][j] = (float) buying[i][j]/ClassValues[j]; if(buyingL[i][j]<0 || buyingL[i][j]>1) buyingL[i][j]=0;maintL[i][j] = (float) maint[i][j]/ClassValues[j]; if(maintL[i][j]<0 || maintL[i][j]>1) maintL[i][j]=0;doorsL[i][j] = (float) doors[i][j]/ClassValues[j]; if(doorsL[i][j]<0 || doorsL[i][j]>1) doorsL[i][j]=0;}}for(int i=0;i<3;i++){ //概率P(ai|yi)for(int j=0;j<4;j++){personsL[i][j] = (float) persons[i][j]/ClassValues[j]; if(personsL[i][j]<0 || personsL[i][j]>1) personsL[i][j]=0;lug_bootL[i][j] = (float) lug_boot[i][j]/ClassValues[j]; if(lug_bootL[i][j]<0 || lug_bootL[i][j]>1) lug_bootL[i][j]=0;safetyL[i][j] = (float) safety[i][j]/ClassValues[j]; if(safetyL[i][j]<0 || safetyL[i][j]>1) safetyL[i][j]=0;}} } //一行數(shù)據(jù)的準(zhǔn)確與否,P(Bi|A)=P(A|Bi)P(Bi)/P(A),其中P(A)相同，只需比較分子的大小即可 bool TestLine(string ai,string bi,string ci,string di,string ei,string fi,string gi){int b, m, d, p, l, s;//buying:if(ai=="vhigh") b=0;else if(ai=="high") b=1;else if(ai=="med") b=2;else if(ai=="low") b=3;//maint:if(bi=="vhigh") m=0;else if(bi=="high") m=1;else if(bi=="med") m=2;else if(bi=="low") m=3;//doors:if(ci=="2") d=0;else if(ci=="3") d=1;else if(ci=="4") d=2;else d=3;//persons:if(di=="2") p=0;else if(di=="4") p=1;else p=2;//lug_boot:if(ei=="small") l=0;else if(ei=="med") l=1;else if(ei=="big") l=2;//safety: if(fi=="low") s=0;else if(fi=="med") s=1;else if(fi=="high") s=2;float Bi; float MaxB=0;int t=0;//計(jì)算四個(gè)P(Bi|A)的概率取最大的 for(int i=0;i<4;i++){Bi=buyingL[b][i] * maintL[m][i] * doorsL[d][i] * personsL[p][i] * lug_bootL[l][i] * safetyL[s][i] * ClassValuesL[i];if(MaxB < Bi && Bi<=1){MaxB = Bi;t = i;}}//判斷預(yù)測(cè)和事實(shí)是否相等 if(CVname[t]==gi) return true;else return false; } //讀取并測(cè)試文件 void ReadFileTest(){ifstream fin("CarDatas.txt");string a,b,c,d,e,f,g;bool t=false;int i=0;while(++i && fin>>a && fin>>b&& fin>>c && fin>>d && fin>>e && fin>>f && fin>>g){if(i>countF){ countTest++;t=TestLine(a,b,c,d,e,f,g); if(t) countTestSuc++; }}fin.close(); } void setZero(); int main(){int a[5]={100,200,500,700,1350};for(int i=0;i<5;i++){setZero();countF=a[i]; //訓(xùn)練和測(cè)試的分界 ReadFileTrain(); //讀取文件并且統(tǒng)計(jì)個(gè)數(shù)CalAP(); //計(jì)算條件概率 ReadFileTest(); //測(cè)試樣本 cout<<"預(yù)測(cè)正確countTestSuc="<<countTestSuc<<endl;cout<<"測(cè)試樣本countTest="<<countTest<<endl;cout<<"準(zhǔn)確率為："<<100.0*((float)countTestSuc/(float)countTest)<<"%"<<endl<<endl;}return 0; } //重新賦值為零 void setZero(){countTrain = 0;//訓(xùn)練樣本數(shù)目countTest = 0;//測(cè)試樣本數(shù)目countTestSuc = 0;//測(cè)試樣本正確的數(shù)目for(int i=0;i<4;i++)for(int j=0;j<4;j++){ClassValues[i]=0; //unacc, acc, good, vgood buying[i][j]=0; //vhigh, high, med, low.maint[i][j]=0; // vhigh, high, med, low. doors[i][j]=0; //2, 3, 4, 5more. persons[i][j]=0; //2, 4, more. lug_boot[i][j]=0; //small, med, big.safety[i][j]=0; //low, med, high. ClassValuesL[i]=0; //unacc, acc, good, vgood buyingL[i][j]=0; //vhigh, high, med, low.maintL[i][j]=0; // vhigh, high, med, low. doorsL[i][j]=0; //2, 3, 4, 5more. personsL[i][j]=0; //2, 4, more. lug_bootL[i][j]=0; //small, med, big.safetyL[i][j]=0; //low, med, high. } }

實(shí)驗(yàn)結(jié)果：

總結(jié)

以上是生活随笔為你收集整理的人工智能一种现代化学习方法——学习笔记（13章）的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。