算法设计之—常用算法之-分支界定法
???????? 在進行機器學(xué)習(xí)特診選擇的時候,一種不需要進行遍歷仍能取得最優(yōu)解的方法為分支定界(branch and bound)法。這是一種自頂向下的方法,即從包含所有候選特征開始,逐步去掉不被選擇的特征。此種方法具有回溯的過程,能夠考慮所有可能的特征組合。
分支定界法:
??????? 原理:分支界定法就是帶剪枝技巧的搜索策略,通過預(yù)判和估算,一旦發(fā)現(xiàn)某個子解空間已經(jīng)不可能存在可行解時,立即停止對此子解空間的搜索。
??????? 類似于回溯法,也是一種在問題的解空間樹T上搜索問題解的算法。但在一般情況下,分支限界法與回溯法的求解目標不同。回溯法的求解目標是找出T中滿足約束條件的所有解,而分支限界法的求解目標則是找出滿足約束條件的一個解,或是在滿足約束條件的解中找出使某一目標函數(shù)值達到極大或極小的解,即在某種意義下的最優(yōu)解。
?
分析:分支界定法通常不能降低搜索解空間的數(shù)量級,但通過合理的選擇估算函數(shù)和分布策略,往往能極高地提高搜索效率。
????? 算法的技巧性很強,不通類型的問題的解法也不相同。
所謂“分支”就是采用廣度優(yōu)先的策略,依次搜索E-結(jié)點的所有分支,也就是所有相鄰結(jié)點,拋棄不滿足約束條件的結(jié)點(剪枝),其余結(jié)點加入活結(jié)點表。然后從表中選擇一個結(jié)點作為下一個E-結(jié)點,繼續(xù)搜索。
?????? 選擇下一個E-結(jié)點的方式不同,則會有幾種不同的分支搜索方式。
?? 1)FIFO搜索
?? 2)LIFO搜索
?? 3)優(yōu)先隊列式搜索
?
與回朔法的方法區(qū)別:
?
????????? 由于求解目標不同,導(dǎo)致分支限界法與回溯法在解空間樹T上的搜索方式也不相同。回溯法以深度優(yōu)先的方式搜索解空間樹T,而分支限界法則以廣度優(yōu)先或以最小耗費優(yōu)先的方式搜索解空間樹T。
?????? 分支限界法的搜索策略是:在擴展結(jié)點處,先生成其所有的兒子結(jié)點(分支),然后再從當前的活結(jié)點表中選擇下一個擴展對點。為了有效地選擇下一擴展結(jié)點,以加速搜索的進程,在每一活結(jié)點處,計算一個函數(shù)值(限界),并根據(jù)這些已計算出的函數(shù)值,從當前活結(jié)點表中選擇一個最有利的結(jié)點作為擴展結(jié)點,使搜索朝著解空間樹上有最優(yōu)解的分支推進,以便盡快地找出一個最優(yōu)解。
??????? 分支限界法常以廣度優(yōu)先或以最小耗費(最大效益)優(yōu)先的方式搜索問題的解空間樹。問題的解空間樹是表示問題解空間的一棵有序樹,常見的有子集樹和排列樹。在搜索問題的解空間樹時,分支限界法與回溯法對當前擴展結(jié)點所使用的擴展方式不同。在分支限界法中,每一個活結(jié)點只有一次機會成為擴展結(jié)點。活結(jié)點一旦成為擴展結(jié)點,就一次性產(chǎn)生其所有子結(jié)點。在這些子結(jié)點中,那些導(dǎo)致不可行解或?qū)е路亲顑?yōu)解的子結(jié)點被舍棄,其余子結(jié)點被子加入活結(jié)點表中。此后,從活結(jié)點表中取下一結(jié)點成為當前擴展結(jié)點,并重復(fù)上述結(jié)點擴展過程。這個過程一直持續(xù)到找到所求的解或活結(jié)點表為空時為止。
?
兩種方法的取舍:
???????? 有一些問題其實無論用回溯法還是分支限界法都可以得到很好的解決,但是另外一些則不然。也許我們需要具體一些的分析——到底何時使用分支限界而何時使用回溯呢?
???????? 回溯法和分支限界法的一些區(qū)別: 方法對解空間樹的搜索方式???? ;? 存儲結(jié)點的常用數(shù)據(jù)結(jié)構(gòu) ; ??? 結(jié)點存儲特性常用應(yīng)用。
????????? 回溯法深度優(yōu)先搜索堆棧活結(jié)點的所有可行子結(jié)點被遍歷后才被從棧中彈出找出滿足約束條件的所有解; 分支限界法廣度優(yōu)先或最小。
?
總結(jié)
以上是生活随笔為你收集整理的算法设计之—常用算法之-分支界定法的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 关于突破自我的励志句子189个
- 下一篇: 算法设计之—直接 遍历/穷举法、贪心算法