人工智能秘史（三）：为什么图灵希望AI犯错？
相關文章：
人工智能秘史（一）：會下棋的土耳其機器人
人工智能秘史（二）：美國第一臺計算機背后的女程序員
1950年，數字時代即將開啟之際，阿蘭·圖靈發表了他最著名的一篇論文，題目叫做《計算機器與智能》，在里面他提出了一個問題，“機器會思考嗎？’
圖靈并沒有試圖去定義“機器”和“智能”這兩個詞，相反，他概述了回答這個問題的另一種辦法，這個辦法源自維多利亞時代的一種客廳消遣活動，名字叫做模仿游戲。游戲規則規定，一個男人和一個女人分別位于不同的房間，他們將通過手寫筆記與裁判進行溝通。裁判必須猜誰是誰，但他們的任務會有點復雜，因為那位男性在設法模仿女性。
在這種游戲的啟發之下，圖靈構思了一個思想實驗，將其中一位選手換成了計算機。如果計算機在編程之下能夠把這個游戲玩得很溜，以至于裁判無法斷定自己究竟是在跟人還是機器對話的話，圖靈提出，那就有理由推斷出機器是智能的。
這個思想實驗后來被稱為圖靈測試，至今仍是AI界最著名、引起爭議最大的想法之一。這個思想實驗吸引力的經久不衰，是在于它有望給一個充滿哲學意義的問題——“機器會思考嗎？”——提供了一個不會模棱兩可的答案。如果計算機通過圖靈測試，則答案就是肯定的。正如哲學家Daniel Dennett所寫那樣，圖靈測試本該是哲學對話的終結者。“與其無休止地爭論思考的終極本質和要義，我們為什么不都就這一點達成一致呢？即無論其本質是什么，任何東西只要通過了這一測試，當然就擁有思考能力。”
但是如果你再仔細看看圖靈的論文，你就會發現里面有一個小細節其實給測試引入了模糊性，那個細節暗示，可能圖靈的意思更多的是有關機器智能的一種哲學上的挑釁而不是實際測試。
在《計算機器與智能》的一段里面，圖靈模擬量對想象中未來的智能計算機測試可能的樣子。（人提出問題，計算機回答）
Q：請給我寫一首有關福思橋（Forth Bridge）主題的十四行詩。
A：這種事情別找我。我從來都不會寫詩。
Q：34957 +70764等于多少？
A：（停頓了約30秒后再給出答案）105621。
Q：你會下國際象棋嗎？
A：會。
Q：我在 K1 處有一個王，除此之外沒有棋子了。你在 K6 處有一個王且在 R1 處有一個車。現在由你走，你會怎樣走？
A：(15 秒停頓后) 將車移動到 R8，然后將死。
在這個交流中，計算機器是犯了一個運算錯誤。那兩個數相加的結果其實是105721，不是105621。身為出色的數學家的圖靈不大可能會意外留下這個錯誤。這個更有可能是一個彩蛋，目的是想提醒讀者。
圖靈似乎在文章的其他地方提出，這種算錯數其實是一種編程上的花招，是騙過裁判的一種手段。圖靈知道，對計算機響應研究仔細的讀者會發現這個錯誤，然后認為只有人才會犯這種錯誤，而機器不會犯這么低級的算術錯誤。圖靈寫道：“機器可以故意引入計算錯誤來迷惑質問者。”
盡管利用錯誤來給出這是人類智能的暗示著1950年的時候很難理解，但這已經成為致力于自然語言處理的程序員的一種設計實踐。比方說，2014年6月，一個叫做Eugene Goostman的聊天機器人據說已經成為第一個通過圖靈測試的計算機。但批評者很快指出，Eugene之所以能通過測試是因為一項內置的作弊手段：Eugene模仿的是一個英語為第二語言的13歲男孩。這意味著他的語法錯誤和不完備的知識會被誤認為天真無邪和不成熟，而不是自然語言處理能力的缺陷。
類似地，在Google的語音助理系統，Duplex，去年也用擬人的嗯、啊等向群眾示好，很多人指出這并不是系統所做出的真正思考，而是人工編碼出來的遲疑來模仿人類的認知。
這兩種情況都是圖靈的想法，即計算機可以設計成犯一些簡單的錯誤來給人留下對方是人的印象。就像圖靈一樣，Eugene Goostman和Duplex的程序員也知道，在人類的易錯性方面進行膚淺的偽裝就足以騙過我們。
也許圖靈測試要評估的并不是機器是否智能，而是我們是否愿意接受它是智能的。正如圖靈自己所說那樣：“智能這個概念本身就是情感惡如是數學意義上的。我們認為某個東西行為的智能程度如何，既取決于我們自己的心理狀態與訓練情況，也取決于該對象的自身屬性，二者的決定程度是一樣的。”圖靈似乎認為，也許智能并不是一種可以編程進機器的物質，相反，而是一種通過社會互動構造的才能。
原文鏈接：
https://spectrum.ieee.org/tech-talk/tech-history/dawn-of-electronics/untold-history-of-ai-why-alan-turing-wanted-ai-to-make-mistakes
————
編輯?∑Gemini????
來源：36Kr
更多精彩：
?泰勒定理的奇聞軼事
?丘成桐：漫談微分幾何
?Leibniz?如何想出微積分？（一）
?線性相關和秩的物理意義
?數學史上你認為最丑陋的公式是什么？
?陶哲軒談什么是好的數學
?田淵棟：數學的用處（下篇）
?你絕對沒想過原來數學家這么流氓，一言不合就進行暴力證明
?世界上最牛的五篇博士論文
?數學中有哪些巧合讓人眼前一亮？
?算法立功！清華畢業教授美國被搶車，警察無能為力自己用“貪心算法”找回
?學術史上的奇文：怎樣用數學抓獅子
?臺大教授的反思：最難的一課?我們卻沒教給學生
?麻省理工學院(MIT)研究生學習指導—— 怎樣做研究生
?分享 數學，常識和運氣 ——投資大師詹姆斯·西蒙斯2010年在MIT的講座
算法數學之美微信公眾號歡迎賜稿
稿件涉及數學、物理、算法、計算機、編程等相關領域，經采用我們將奉上稿酬。
投稿郵箱：math_alg@163.com
總結
以上是生活随笔為你收集整理的人工智能秘史（三）：为什么图灵希望AI犯错？的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 清华90后博士后万蕊雪：科研这场马拉松，
- 下一篇： RTC领域首个AI算法大赛 AI in