在學(xué)習(xí)《機(jī)器學(xué)習(xí)》時(shí)關(guān)于規(guī)則學(xué)習(xí)一章提到歸納邏輯程序設(shè)計(jì)ILP中擬歸結(jié)中對(duì)發(fā)明出來的規(guī)則，提出：根據(jù)奧卡姆剃刀原則，同等描述能力下學(xué)得的規(guī)則越少越好。

1、奧卡姆剃刀原則

這個(gè)原理稱為“如無必要，勿增實(shí)體” （Entities should not be multiplied unnecessarily），有時(shí)為了顯示其權(quán)威性，人們也使用它原始的拉丁文形式：
Numquam ponenda est pluralitas sine necessitate.（避重趨輕）
Pluralitas non est ponenda sine necessitate.（避繁逐簡）
Frustra fit per plura quod potest fieri per pauciora.（以簡御繁）
Entia non sunt multiplicanda praeter necessitatem.（避虛就實(shí)）

這個(gè)由14世紀(jì)邏輯學(xué)家、圣方濟(jì)各會(huì)修士奧卡姆的威廉（William of Occam，約1285年至1349年）提出的原理，就是簡單有效。和中國傳統(tǒng)上提出的“一即一切，一切即一”吻合，大致意思吧，就是越簡單越好。一個(gè)數(shù)學(xué)公式把宇宙規(guī)律描述清楚，可能嗎？

2、奧卡姆剃刀原則的應(yīng)用

奧卡姆剃刀常用于兩種或兩種以上假說的取舍上：如果對(duì)于同一現(xiàn)象有兩種或多種不同的假說，我們應(yīng)該采取比較簡單或可證偽的那一種。

這類宗教、哲學(xué)、世俗、科學(xué)糾纏不清的原則，我是無法更多去論證。不過這個(gè)原則一定有適用場景，但要說明放之四海而皆準(zhǔn)，那也不一定吧。

這不是一個(gè)理論而是一個(gè)原理，它的目的是為了精簡抽象實(shí)體。它不能被證明也不能被證偽，因?yàn)樗且粋€(gè)規(guī)范性的思考原則。

由于它是一種規(guī)范性思考的原則（就像是“（你）應(yīng)該相信，如果a<b,b<c那么a<c”）所以會(huì)有一點(diǎn)真理的意味，但是規(guī)范性思考和真理本身還是不同的，奧卡姆剃刀的原則不是求真，而是求簡。因?yàn)槲覀兛梢詫?duì)本體世界做出無數(shù)多個(gè)可能的論述，這些論述都有可能是對(duì)的，但都不一定是對(duì)的，甚至這些論述在使用起來的時(shí)候得到的結(jié)果會(huì)是一樣的。而為了方便，我們只能選擇最簡單的那個(gè)。

那么機(jī)器學(xué)習(xí)中用這個(gè)原則來選擇規(guī)則，合適嗎？我覺得還是要結(jié)合具體任務(wù)的背景知識(shí)來說。

這篇文章可以看看：

http://lesswrong.com/lw/1ph/youre_entitled_to_arguments_but_not_that/

總結(jié)

以上是生活随笔為你收集整理的认识奥卡姆剃刀原则的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。