E安全2月23日訊，2015年，谷歌公司發布了其原本內部使用的人工智能算法 TensorFlow工具——此舉徹底改變了世界各地人工智能的研究與開發基調。借用谷歌公司首席執行官的說法，這意味著全球開發者將免費以開放、易用的方式利用 TensorFlow 工具進行創造。人工智能技術將由學術領域正式入駐用戶個人筆記本電腦。

關于 TensorFlow

TensorFlow? 是一個采用數據流圖（data flow graphs），用于數值計算的開源軟件庫。節點（Nodes）在圖中表示數學操作，圖中的線（edges）則表示在節點間相互聯系的多維數據數組，即張量（tensor）。它靈活的架構讓你可以在多種平臺上展開計算，例如臺式計算機中的一個或多個CPU（或GPU），服務器，移動設備等等。TensorFlow 最初由Google大腦小組（隸屬于Google機器智能研究機構）的研究員和工程師們開發出來，用于機器學習和深度神經網絡方面的研究，但這個系統的通用性使其也可廣泛用于其他計算領域。

TensorFlow工具野蠻生長

然而，TensorFlow 的“普及”的力量強大到徹底超出谷歌公司的控制范圍。TensorFlow 工具公開發布以來，僅僅兩年多時間，盡管仍然由學術界與硅谷主導著軟件領域的發展方向，但這種力量平衡正在發生變化，其中的催化劑正是 deepfakes——某匿名的 Reddit 用戶。

你看的片兒都是誰的臉？

deepfakes 利用 AI 軟件成功實現了將任意面部圖像以幾乎無縫化方式自動拼接至視頻當中。deepfakes 利用深度學習技術能夠把任何人的面孔（例如電影明星）放在色情女演員身上。

deepfakes 被披露后又建立了自己的 subreddit，并迅速積累了超過9.1萬用戶。另一位名為 deepfakeapp 的 Reddit 用戶則發布了一款名為 FakeApp 的工具，其允許任何人下載 AI 軟件并在正確的硬件上自行使用。截至目前，Reddit 已經禁用了該子社區，并表示其中違反了網站提出了強制性色情控制政策。

根據 FakeApp 發布的用戶指南，該軟件以 TensorFlow 為基礎。谷歌公司的員工利用 TensorFlow 也打造出過類似的解決方案，只是設置與主題略有不同，谷歌用于從零開始訓練算法生成圖像。此外，用戶還可以利用其發揮更為自由的想象空間，例如將尼古拉斯·凱奇放在一大堆其它電影當中。有91000人訂閱了deepfakes的子社區，單純只是為了過把眼癮。

AI 技術的負面領域應用

雖然 TensorFlow 屬于開源項目，但正如潛在的癌癥檢測算法一樣，FakeApp 代表著開源領域的黑暗面。谷歌（以及微軟、Amazon乃至Facebook）放棄了對這股巨大技術力量的控制權，且承諾不對相關使用行為作出任何約束。任何人都能夠下載 TensorFlow 這個AI 軟件，并利用其制作自己的作品。

偽造政治演講

這意味著從偽造政治演講（配合現有聲音模擬AI）到生成報復性偽造色情內容，人工智能正以人們難以預見的方式發揮著極為嚴重的負面作用。

由于軟件能夠在本地計算機上運行，因此大型科技公司只能對這種遠離中央服務器的使用行為熟視無睹。“開源代碼”決定了企業將無法干涉人們的具體使用方法。AI 由創造性工具轉化為潛在的傷害性武器。

而且各大企業也沒有動機對此作出改變：自由軟件對其來講是種好事，因為其允許更多人參與到 AI 開發工作中來。目前每一家大型科技企業都在盡可能多地網羅 AI 人才，而涌入這一領域的人員自然越多越好。此外，更多人員的加入還能夠帶來更多新產品代碼以供項目開發，而企業之外的人員可以人中尋找并修復錯誤，學生則能夠在本科與博士課程當中利用該軟件進行教學，此外其還將幫助剛剛加入公司的新人們快速上手開發工作。

機器學習“開放”是必然趨勢

AT&T 公司先進技術副總裁、前機器學習研究員馬辛·吉爾伯特表示，“過去五年當中，機器學習領域確實出現了重大突破，但真正的重大突破并不在于算法，其在本質上與上世紀七十、八十乃至九十年代的算法并無區別。真正的突破在于開源浪潮的普及。開源降低了準入門檻，使得相關技術不再是擁有雄厚財力的IBM、谷歌以及Facebook們的專有物。”

當然，開源軟件也使AI開發當中的道德問題變得更為復雜。谷歌公司目前提供的工具并不能創造出天網或者其它超級智能成果，但其仍然有可能造成實際存在的危害。谷歌與微軟等也在持續發布開源人工智能框架，并表示人工智能在倫理層面不會造成危害的聲明。企業內的在職科學家們已經簽署了協議，并成立了專門研究這一主題的研究小組。然而，這些企業不會為下載其自由軟件的用戶提供任何指導或者授權。TensorFlow網站上展示了軟件的運行說明，但卻沒有提供任何與道德倫理相關、或者要求用戶確保數據集不存在偏見的免責聲明。

幾個月前，在采訪微軟公司人工智能副總裁哈利·沙姆時，他表示目前還不太清楚該公司要如何引導那些使用開源軟件與付費開發者工具的用戶創建出符合道德標準的機器學習系統。他表示，“這真的非常困難，我認為目前還不存在簡單的解決方案。我們正逐漸意識到，在設計機器學習算法的過程中，我們需要努力找到其中的盲區。”

“自我封閉”不是AI濫用的解決之道

谷歌公司并沒有就類似的問題作出回應。

將 AI 軟件移出開源陣營同樣不是個理想的解決辦法。如果選擇自我封閉，那將很難了解這些科技企業如何開發自己的人工智能算法。目前的研究成果在 ArXiv 等網站上免費發布，原始代碼則在 GitHub 上直接共享，這意味著記者、學者乃至倫理學家都能夠尋找其中的潛在缺陷并要求對方作出調整。此外，也有很多人正在利用這些AI工具包進行生產性應用——例如在應用程序當中實現標準圖像識別等。

即將大量出現的其它偽造視頻將通過Facebook以及Twitte等主流平臺與世人見面，并在政治宣傳當中找到新的發展空間——這絕不是什么遙不可及的妄想。盡管人工智能研究人員一直希望能夠在大型技術企業的職責范圍之外為此找到潛在的解決方案，但這樣的嘗試恐怕無法獲得成功——畢竟人工智能工具的民主化進程已經無法阻擋。

由于這類核心技術的開發者無需為自己創造的內容負責，因此很可能落在視頻與圖像共享平臺之上。例如，Gfycat刪除了其網站上托管的全部Deepfakes GIF動圖。Reddit已經關閉了該子社區。PornHub在采訪中表示，其將刪除那些經過換臉的色情視頻。然而，在主要社交平臺范圍之外，仍有deepfakes.club這類網站的存在，且很難加以監管。

無論deepfakes軟件掀起了怎樣的波瀾，可以肯定的是，這一切還僅僅只是開始。

HD089455

總結

以上是生活随笔為你收集整理的谷歌为世界造AI,世界却用AI做AV的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。