深度學習是人工智能領域里的一個研究方向，主要是學習樣本數(shù)據(jù)的內在規(guī)律和表示層次，這些學習過程中獲得的信息，對諸如文字，圖像和聲音等數(shù)據(jù)的解釋有很大幫助。它的最終目標是讓機器能夠像人一樣具有分析學習能力，能夠識別文字、圖像和聲音等數(shù)據(jù)。

但深度學習領域一直都存在算法黑箱問題，即算法的設計者并不清楚模型是如何得出結論和預測的，設計者無法對這個結果進行解釋和負責。

深度學習的另一個問題是容易被數(shù)據(jù)“噪音”干擾。只要在對抗網(wǎng)絡里加入一些“噪音”，可能就會讓計算模型出錯。典型的例子是，當自動駕駛算法的訓練數(shù)據(jù)存在被惡意添加了“噪音”（編注：噪音指的是人類無法察覺卻能夠對算法進行干擾的數(shù)據(jù)）后，可能會將STOP標志識別錯誤，從而導致車禍。

算法黑箱、模型不安全易被干擾，這些目前人工智能領域里存在的問題，都向研究者提出了一個問題：未來，我們該向如何發(fā)展人工智能技術，從而使AI可以迎來二次曲線增長？

清華人工智能研究院院長、中國科學院院士張鈸以及他帶領的學生們給出的答案是：第三代人工智能技術。

近日，在北京舉行的“2020第三代人工智能產(chǎn)業(yè)論壇暨瑞萊智慧RealAI戰(zhàn)略發(fā)布會”上，張鈸接受了澎湃新聞（www.thepaper.cn）的采訪，他認為要解決現(xiàn)在人工智能在落地應用中遇到的問題，就需要打破現(xiàn)有的理論，邁向第三代人工智能。

在今年上海舉行的世界人工智能大會期間，張鈸對第三代人工智能做出過這樣的解釋：第一代知識驅動的 AI 利用知識、算法和算力 3 個要素構造 AI；第二代數(shù)據(jù)驅動的AI 利用數(shù)據(jù)、算法與算力 3 個要素構造 AI。由于第一、二代AI只是從一個側面模擬人類的智能行為，因此存在各自的局限性，不可能觸及人類真正的智能。

基于此，張鈸提出了出第三代人工智能的發(fā)展路徑是融合第一代的知識驅動和第二代的數(shù)據(jù)驅動的人工智能， 利用知識、數(shù)據(jù)、算法和算力 4 個要素， 建立新的可解釋和魯棒（音譯自“robust”，學術上即一個系統(tǒng)或組織有抵御或克服不利條件的能力）的AI理論與方法，發(fā)展安全、可信、可靠和可擴展的AI技術。

發(fā)展第三代AI技術中美處在同一起跑線

在張鈸看來，基于第三代人工智能理論發(fā)展的AI技術，會讓中國和美國處在同一起跑線上，甚至隨著發(fā)展會處在領先位置。

早在2015年，張鈸院士就曾提出發(fā)展“第三代人工智能”的理念。2018 年，清華大學設立人工智能研究院，張鈸擔任新研究院的院長，聘請圖靈獎得主姚期智院士作為學術委員會主任。2019年，清華大學宣布成立人工智能研究院基礎理論研究中心，聘任清華大學計算機系長聘教授朱軍為研究中心主任。

新設立的基礎理論研究中心的任務是著眼于當前人工智能理論和方法的不足，以克服當前人工智能的技術局限為宗旨，以期建立魯棒（robust，指系統(tǒng)健壯、強壯；魯棒性是系統(tǒng)在異常情況下生存的關鍵）、可理解、數(shù)據(jù)高效和安全的第三代人工智能基礎理論和方法體系。

除了在基礎理論研究上，推進第三代人工智能發(fā)展外，在2018年，由張鈸、朱軍（擔任首席科學家的瑞萊智慧（RealAI）作為產(chǎn)學研技術公司從清華大學人工智能研究院孵化成立。根據(jù)瑞萊智慧的官方介紹，公司就是以第三代人工智能技術為依托，克服一般深度學習存在的諸多缺點，從根本上增強人工智能的可靠性、可信性以及安全性。

相比之下，美國第三代人工智能技術的發(fā)展主要依賴于DARPA部門（美國國防高級研究計劃局）。2018年，由DARPA宣布啟動AI Next項目。

項目發(fā)布時，DARPA在其網(wǎng)站上介紹，從上世紀90年代開始，DARPA幫助引領了AI機器學習技術的第二次浪潮，該技術從大量數(shù)據(jù)中創(chuàng)建了統(tǒng)計模式識別器。DARPA對自然語言理解、問題解決、導航和感知技術的資助，發(fā)明了自動駕駛汽車、個人助理和近乎自然的假肢，還有大量重要的、有價值的軍事和商業(yè)應用。然而，第二代人工智能技術依賴于大量高質量的訓練數(shù)據(jù)，不能適應不斷變化的條件，提供有限的性能保證，無法向用戶解釋其結果。未來第三代AI技術可能會極大地改變軍事任務規(guī)劃，科學家可利用機器開展研究，人類可與機器互動。

DARPA還給出了AI Next項目的重點，即發(fā)展新能力、高可靠性AI、對抗性AI、高性能AI、下一代AI以及人工智能探索計劃。

這幾點與張鈸提出的發(fā)展安全、可信、可靠和可擴展AI技術不謀而合。

“所以我們?yōu)槭裁磸娬{第三代人工智能有一個非常重要的因素就是，這個是我們國家歷史上第一次遇到跟別人站在同一起跑線上，發(fā)展第三代人工智能，國外跟我們一樣。”張鈸告訴澎湃新聞。

國內AI企業(yè)同質化

胡潤發(fā)布的2019年全球人工智能行業(yè)獨角獸企業(yè)排行榜中，前40名企業(yè)中，中國占了15家，美國占了20家企業(yè)。

在采訪中，張鈸認為這份榜單也說明了現(xiàn)在人工智能技術在落地過程中遇到的問題。從數(shù)量上看，中美兩國之間的AI獨角獸企業(yè)差距不大。但是如果仔細研究榜單上的公司，會發(fā)現(xiàn)，中國AI企業(yè)的同質化明顯。

“這是不好的。你用同樣的技術，去做同樣的應用場景，那就說明這個技術大家都會有，大家都會的技術用到大家都能想到的市場，肯定競爭非常激烈。”張鈸說。

另外，由于第二代人工智能技術限制，目前國內的AI技術應用場景有限，同時還可能會有安全問題。

不安全體現(xiàn)在兩個方面，一是數(shù)據(jù)，二是算法。“一個隱私保護，一個知識產(chǎn)權，用戶的人臉數(shù)據(jù)憑什么給一家公司用，怎么用，數(shù)據(jù)都被公司收走，是否會造成不公平競爭，這些都是需要思考和治理的。”張鈸說。

再者，由于測試環(huán)境的脆弱性，很多算法在真實環(huán)境中，都極易被攻擊。在自動駕駛領域里，系統(tǒng)就很容易被攻擊和欺騙。

這樣的現(xiàn)狀，也就為第三代人工智能技術提供了發(fā)展前景。張鈸認為，未來，一個算法可以被解釋，人們能了解機器做出預測的原因，且設計者有手段能阻止他人的攻擊。只有那樣，人工智能技術才會迎來更好的產(chǎn)業(yè)發(fā)展。

目前，由清華孵化的瑞萊智慧就在朝這樣的方向探索。經(jīng)過兩年的發(fā)展，瑞萊智慧近期對外交出了成績單，發(fā)布了兩款最新AI產(chǎn)品：隱私保護機器學習平臺RealSecure和人工智能安全平臺RealSafe2.0 版本，前者是基于安全多方計算、聯(lián)邦學習、匿蹤查詢等技術打造的數(shù)據(jù)安全共享基礎設施，通過打通數(shù)據(jù)孤島，解決企業(yè)機構數(shù)據(jù)合作過程中的數(shù)據(jù)安全風險和隱私泄露問題，后者是一套針對AI系統(tǒng)的防火墻與殺毒軟件，支持檢測對抗樣本攻擊、模型后門攻擊等新型安全漏洞，提供模型安全測評及防御的端到端解決方案，大幅提升AI系統(tǒng)的安全性。

最后，張鈸在采訪中也提到了人才的培養(yǎng)，他認為人工智能產(chǎn)業(yè)要進一步發(fā)展，必須是發(fā)展具有創(chuàng)新能力的AI人才。 “國內人才的平均水平，比如清華，不管是本科、研究生平均水平都很高，但最高水平跟人家差的太遠了。我們的人才培養(yǎng)中，沒出過愛因斯坦，也沒出過圖靈。這是我們未來需要思考的。”張鈸說。

總結

以上是生活随笔為你收集整理的中科院院士张钹：发展第三代AI技术，中美处在同一起跑线上的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內容還不錯，歡迎將生活随笔推薦給好友。