在學習《機器學習》時關于規則學習一章提到歸納邏輯程序設計ILP中擬歸結中對發明出來的規則，提出：根據奧卡姆剃刀原則，同等描述能力下學得的規則越少越好。

1、奧卡姆剃刀原則

這個原理稱為“如無必要，勿增實體” （Entities should not be multiplied unnecessarily），有時為了顯示其權威性，人們也使用它原始的拉丁文形式：
Numquam ponenda est pluralitas sine necessitate.（避重趨輕）
Pluralitas non est ponenda sine necessitate.（避繁逐簡）
Frustra fit per plura quod potest fieri per pauciora.（以簡御繁）
Entia non sunt multiplicanda praeter necessitatem.（避虛就實）

這個由14世紀邏輯學家、圣方濟各會修士奧卡姆的威廉（William of Occam，約1285年至1349年）提出的原理，就是簡單有效。和中國傳統上提出的“一即一切，一切即一”吻合，大致意思吧，就是越簡單越好。一個數學公式把宇宙規律描述清楚，可能嗎？

2、奧卡姆剃刀原則的應用

奧卡姆剃刀常用于兩種或兩種以上假說的取舍上：如果對于同一現象有兩種或多種不同的假說，我們應該采取比較簡單或可證偽的那一種。

這類宗教、哲學、世俗、科學糾纏不清的原則，我是無法更多去論證。不過這個原則一定有適用場景，但要說明放之四海而皆準，那也不一定吧。

這不是一個理論而是一個原理，它的目的是為了精簡抽象實體。它不能被證明也不能被證偽，因為它是一個規范性的思考原則。

由于它是一種規范性思考的原則（就像是“（你）應該相信，如果a<b,b<c那么a<c”）所以會有一點真理的意味，但是規范性思考和真理本身還是不同的，奧卡姆剃刀的原則不是求真，而是求簡。因為我們可以對本體世界做出無數多個可能的論述，這些論述都有可能是對的，但都不一定是對的，甚至這些論述在使用起來的時候得到的結果會是一樣的。而為了方便，我們只能選擇最簡單的那個。

那么機器學習中用這個原則來選擇規則，合適嗎？我覺得還是要結合具體任務的背景知識來說。

這篇文章可以看看：

http://lesswrong.com/lw/1ph/youre_entitled_to_arguments_but_not_that/

總結

以上是生活随笔為你收集整理的认识奥卡姆剃刀原则的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。