产品视频被曝合成，用AI造出4个工程师，这家公司火了
原標題：產品視頻被曝合成，用 GAN 造出 4 個工程師，10 天眾籌 3 萬美元，這家初創公司火了
文/劉俊寰
來源：大數據文摘（ID:BigDataDigest）
創業公司吹噓技術騙取信任和融資的例子屢見不鮮，但近日，一家西班牙技術公司被曝驚天造假，不僅技術和產品 demo 視頻被懷疑是造假合成，連團隊里的工程師，都是GAN 合成的“AI 造人”。
六人的工程師團隊介紹中，只有 Delgado 和 Balcells 兩人確有其人。
有網友評論：這算是給 GAN 的圖像生成技術找了個絕佳的落地場景么？
一起看看。
自動棋盤眾籌項目火爆全網，用 AI 遠程跟網友“云”下棋
上周，眾籌網站 Kickstarter 上的一項自動棋盤的項目被迫暫停了，多個知名的在線國際象棋社區聯合發表聲明，稱該產品是個騙局。
被舉報的這家初創公司名叫 REGIUM，主要開發用于在線比賽的全自動國際象棋棋盤，該公司設計的棋盤通過將內置的電磁鐵移入其中，從而自動操作棋盤上的棋子。
根據 REGIUM 的介紹，這個棋盤可以和可以進行網絡對戰的國際象棋應用同步，原本在 PC 畫面上進行的國際象棋操作可以在物理上進行，自稱是“劃時代的項目”。
REGIUM 稱，他們的自動棋盤是高科技棋盤，用到了 AI、自動跟蹤技術等，用戶移動棋子是快速、無聲的，可以將棋盤狀態與各種在線象棋 APP 同步，與人遠程“云”下棋，還能實時載入更多棋類游戲。
REGIUM 于 2019 年 12 月公開了 demo 視頻，隨后在 Kickstarter 上發起眾籌，以商品化為目標募集資金。
這一項目迅速獲得了不少圍棋愛好者和平臺的關注，視頻迅速在 YouTube 上獲得了超過 4 萬的點擊量。在 Kickstarter 上，從上線到項目被叫停，不到 10 天時間就獲得了 33111 美元的籌款。
但是，隨著在 Kickstarter 上的信息公開，用戶針對 REGIUM 提出了各種各樣的問題，其中最為嚴重的是，有人發現，“作為開發團隊介紹的成員臉部照片是假的”。
知名在線國際象棋社區 Chess.com、Chess24.com 和 Lichess.org 的撰稿人相繼發文表示，REGIUM 官網上介紹的 6 名工程師中有 4 人是不存在的，是在網站 thispersondoesnotexist 上利用 AI 生成不存在的人類面部照片。這也導致人們進一步懷疑，“該產品本身可能就不存在”。
REGIUM 官網鏈接：
https://www.chess.com/news/view/update-on-regium-chess
偽造工程師？真真假假破朔迷離
personpersondoesnotexist.com 的創建人 Phil Wang 告訴 Chess.com，這四個疑似不存在的人的臉部照片存在部分失真，和機器學習算法生成的照片具有相同的特征。這些圖像也沒有托管在互聯網上的其他任何地方。
隨后，Wang 使用 AI 技術生成了不存在的人的面孔，將有關與 REGIUM 的相關頁面鏈接的肖像的信息轉發給 Chess.com，并表示，“根據我的經驗，它的確來自英偉達的生成模型”。
“可以從眼鏡周圍的變形以及背景中的偽影看出來，這確實是偽造的照片。”
在使用公開可用的信息與同事進行協調之后，Chess.com 還能夠在公開在線論壇中驗證了與該公司有關聯的個人虛假陳述。
目前，Chess.com 和 Chess24.com 都終止了對 REGIUM 的投資。
不過，在一封發送給科技媒體 Motherboard 的回應郵件中，REGIUM否認了這些說法，但也沒有提供進一步的證據來證明其開發團隊是真實存在的。
REGIUM 在郵件寫道，這個事根本不值得一提，一些人總是會亂說些事情，比如首席技術官不是工程師，他不是門薩的人，這個團隊沒有成員等等。甚至有人猜測，這些照片的標準尺寸是 1024x1024，以及關于董事會和團隊成員的說法……
他們知道互聯網上的陰謀論是如何進行發酵的，有些人就是喜歡胡言亂語。這些團隊成員有家人，有些也在正經公司工作，但在這些瘋狂的攻擊之后，有人擔心這將影響到他們正常的職業生涯，于是他們決定從網上撤除他們的數據。
除了被舉報偽造工程師，視頻國際象棋網站還認為，在 Kickstarter 上的 demo 視頻中，錄像有被明顯篡改的證據。在線象棋平臺 Lichess 的開發者在博客中表示，棋子在棋盤上自動移動的畫面很可能是使用定格動畫（stop motion）做出來的。
博客鏈接：
https://lichess.org/blog/XlE48hEAACIAQv2F/regium-extraordinary-claims-require-extraordinary-evidence
REGIUM 對此進行了回應，稱自己根本不擅長制作宣傳視頻，在拍攝被編輯掩蓋的視頻時還有出錯。
一些懷疑者“要求用手機錄制一段視頻，以證明這不是定格動畫或 CGI”。REGIUM 在一封電子郵件中表示，“我們照做了，也把視頻發送過去了。任何人都可以看到，在視頻中定格動畫或 CGI 是絕對不可能存在的”。
用 GAN 生成人臉圖像真的這么無懈可擊嗎？
Wang 所提到偽造人臉的 StyleGAN 來自英偉達，可以說是近年火遍全網的“造假”神器了。與其他生成器不同，StyleGAN 可以根據需要更改生成圖像的結果，繪制出的圖片更加逼真，不僅可以創造假的人類肖像，也被瘋狂應用于其他機器學習應用項目，例如汽車、房間、甚至是動漫人頭等。
REGIUM 疑似使用的就是這個利用 GAN 來生成不存在的人臉圖像的網站，點開網站之后，每次刷新頁面，算法都會從頭開始生成新的人臉圖像。
網站鏈接：
https://thispersondoesnotexist.com/
該網站使用的是一種稱為StyleGAN的機器學習技術，StyleGAN 最初是由英偉達在一篇論文中《一種用于生成式對抗網絡的基于生成器體系結構的方式（A Style-Based Generator Architecture for Generative Adversarial Networks））
論文下載地址：
https://arxiv.org/pdf/1812.04948.pdf
據論文介紹，StyleGAN 是一步一步地生成人工圖像的，從非常低的分辨率開始，一直到高分辨率（1024×1024）。通過分別地修改網絡中每個級別的輸入，它可以控制在該級別中所表示的視覺特征，從粗糙的特征（姿勢、面部形狀）到精細的細節（頭發顏色），而不會影響其它的級別。
這種技術不僅可以更好地理解所生成的輸出，而且還可以產生最高水平的結果，即比以前生成的圖像看起來更加真實的高分辨率圖像。
英偉達的代碼鏈接：
https://github.com/NVlabs/stylegan
Philip Wang 還在一封電子郵件中表示，絕大多數人都不知道，將來 AI 在合成圖像方面會有多么出色。
不過，盡管非常逼真，但是 StyleGAN 生成的圖片中還是存在一些技術缺陷，文摘菌之前也曾報道過，如何區分真假圖片的幾個方法，比如，有時候在生成的照片中，乍一看似乎與真實照片沒有什么區別，但仔細一看，會發現圖像中有一些奇怪的光線會漂浮在人物周圍，或者是局部出現奇怪的變形。這也是 Wang 能夠一眼看出照片偽造的關鍵所在。
GAN 于 2014 年由計算機科學家 Ian Goodfellow 及其同事首次引入，從那之后，GAN 變得越來越強大，現在已經可以以驚人的高分辨率生成高度逼真的圖像。
不僅如此，這些程序還可以用于生成人們跳舞的視頻，甚至是“將夏天的場景變成冬天的仙境”。不過也有令人苦惱的地方，就是這項技術也有隨時被用于以“deepfakes”為核心的的假色情影片制作中。
Wang 的網站在租用的服務器上運行，該服務器配有運行 Nvidia 軟件的強大 GPU，Wang 透露道，每兩秒鐘生成一張隨機的臉，隨后以可擴展的方式展示給全世界，這其中沒什么花哨。
REGIUM 這次事件，不管真假，都足以再次讓我們反思技術帶來的雙面性，的確，大規模的虛假復制將對于平臺、個人都將造成不同程度的傷害。
顯然，看似作為罪魁禍首的 GAN 技術，仍然是一種通用的東西，而真正將此濫用的，正是我們人。或許正是出于對現在以及未來 GAN 的逐漸“瘋魔化”趨勢，Wang 曾表示，他想要在以后堅持真實的臉部圖像，“人的臉對我們的認知最重要，因此我決定提出該特定的預訓練模型”。
對此，你又是怎么看的？
相關報道：
https://gigazine.net/news/20200309-fake-engineer-chess-board/
總結
以上是生活随笔為你收集整理的产品视频被曝合成，用AI造出4个工程师，这家公司火了的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 求最亲的人歌词
- 下一篇： 华强北“开市”后，商家为多卖台手机拼成了