产品视频被曝合成,用AI造出4个工程师,这家公司火了
原標題:產品視頻被曝合成,用 GAN 造出 4 個工程師,10 天眾籌 3 萬美元,這家初創公司火了
文/劉俊寰
來源:大數據文摘(ID:BigDataDigest)
創業公司吹噓技術騙取信任和融資的例子屢見不鮮,但近日,一家西班牙技術公司被曝驚天造假,不僅技術和產品 demo 視頻被懷疑是造假合成,連團隊里的工程師,都是GAN 合成的“AI 造人”。
六人的工程師團隊介紹中,只有 Delgado 和 Balcells 兩人確有其人。
有網友評論:這算是給 GAN 的圖像生成技術找了個絕佳的落地場景么?
一起看看。
自動棋盤眾籌項目火爆全網,用 AI 遠程跟網友“云”下棋
上周,眾籌網站 Kickstarter 上的一項自動棋盤的項目被迫暫停了,多個知名的在線國際象棋社區聯合發表聲明,稱該產品是個騙局。
被舉報的這家初創公司名叫 REGIUM,主要開發用于在線比賽的全自動國際象棋棋盤,該公司設計的棋盤通過將內置的電磁鐵移入其中,從而自動操作棋盤上的棋子。
根據 REGIUM 的介紹,這個棋盤可以和可以進行網絡對戰的國際象棋應用同步,原本在 PC 畫面上進行的國際象棋操作可以在物理上進行,自稱是“劃時代的項目”。
REGIUM 稱,他們的自動棋盤是高科技棋盤,用到了 AI、自動跟蹤技術等,用戶移動棋子是快速、無聲的,可以將棋盤狀態與各種在線象棋 APP 同步,與人遠程“云”下棋,還能實時載入更多棋類游戲。
REGIUM 于 2019 年 12 月公開了 demo 視頻,隨后在 Kickstarter 上發起眾籌,以商品化為目標募集資金。
這一項目迅速獲得了不少圍棋愛好者和平臺的關注,視頻迅速在 YouTube 上獲得了超過 4 萬的點擊量。在 Kickstarter 上,從上線到項目被叫停,不到 10 天時間就獲得了 33111 美元的籌款。
但是,隨著在 Kickstarter 上的信息公開,用戶針對 REGIUM 提出了各種各樣的問題,其中最為嚴重的是,有人發現,“作為開發團隊介紹的成員臉部照片是假的”。
知名在線國際象棋社區 Chess.com、Chess24.com 和 Lichess.org 的撰稿人相繼發文表示,REGIUM 官網上介紹的 6 名工程師中有 4 人是不存在的,是在網站 thispersondoesnotexist 上利用 AI 生成不存在的人類面部照片。這也導致人們進一步懷疑,“該產品本身可能就不存在”。
REGIUM 官網鏈接:
https://www.chess.com/news/view/update-on-regium-chess
偽造工程師?真真假假破朔迷離
personpersondoesnotexist.com 的創建人 Phil Wang 告訴 Chess.com,這四個疑似不存在的人的臉部照片存在部分失真,和機器學習算法生成的照片具有相同的特征。這些圖像也沒有托管在互聯網上的其他任何地方。
隨后,Wang 使用 AI 技術生成了不存在的人的面孔,將有關與 REGIUM 的相關頁面鏈接的肖像的信息轉發給 Chess.com,并表示,“根據我的經驗,它的確來自英偉達的生成模型”。
“可以從眼鏡周圍的變形以及背景中的偽影看出來,這確實是偽造的照片。”
在使用公開可用的信息與同事進行協調之后,Chess.com 還能夠在公開在線論壇中驗證了與該公司有關聯的個人虛假陳述。
目前,Chess.com 和 Chess24.com 都終止了對 REGIUM 的投資。
不過,在一封發送給科技媒體 Motherboard 的回應郵件中,REGIUM否認了這些說法,但也沒有提供進一步的證據來證明其開發團隊是真實存在的。
REGIUM 在郵件寫道,這個事根本不值得一提,一些人總是會亂說些事情,比如首席技術官不是工程師,他不是門薩的人,這個團隊沒有成員等等。甚至有人猜測,這些照片的標準尺寸是 1024x1024,以及關于董事會和團隊成員的說法……
他們知道互聯網上的陰謀論是如何進行發酵的,有些人就是喜歡胡言亂語。這些團隊成員有家人,有些也在正經公司工作,但在這些瘋狂的攻擊之后,有人擔心這將影響到他們正常的職業生涯,于是他們決定從網上撤除他們的數據。
除了被舉報偽造工程師,視頻國際象棋網站還認為,在 Kickstarter 上的 demo 視頻中,錄像有被明顯篡改的證據。在線象棋平臺 Lichess 的開發者在博客中表示,棋子在棋盤上自動移動的畫面很可能是使用定格動畫(stop motion)做出來的。
博客鏈接:
https://lichess.org/blog/XlE48hEAACIAQv2F/regium-extraordinary-claims-require-extraordinary-evidence
REGIUM 對此進行了回應,稱自己根本不擅長制作宣傳視頻,在拍攝被編輯掩蓋的視頻時還有出錯。
一些懷疑者“要求用手機錄制一段視頻,以證明這不是定格動畫或 CGI”。REGIUM 在一封電子郵件中表示,“我們照做了,也把視頻發送過去了。任何人都可以看到,在視頻中定格動畫或 CGI 是絕對不可能存在的”。
用 GAN 生成人臉圖像真的這么無懈可擊嗎?
Wang 所提到偽造人臉的 StyleGAN 來自英偉達,可以說是近年火遍全網的“造假”神器了。與其他生成器不同,StyleGAN 可以根據需要更改生成圖像的結果,繪制出的圖片更加逼真,不僅可以創造假的人類肖像,也被瘋狂應用于其他機器學習應用項目,例如汽車、房間、甚至是動漫人頭等。
REGIUM 疑似使用的就是這個利用 GAN 來生成不存在的人臉圖像的網站,點開網站之后,每次刷新頁面,算法都會從頭開始生成新的人臉圖像。
網站鏈接:
https://thispersondoesnotexist.com/
該網站使用的是一種稱為StyleGAN的機器學習技術,StyleGAN 最初是由英偉達在一篇論文中《一種用于生成式對抗網絡的基于生成器體系結構的方式(A Style-Based Generator Architecture for Generative Adversarial Networks))
論文下載地址:
https://arxiv.org/pdf/1812.04948.pdf
據論文介紹,StyleGAN 是一步一步地生成人工圖像的,從非常低的分辨率開始,一直到高分辨率(1024×1024)。通過分別地修改網絡中每個級別的輸入,它可以控制在該級別中所表示的視覺特征,從粗糙的特征(姿勢、面部形狀)到精細的細節(頭發顏色),而不會影響其它的級別。
這種技術不僅可以更好地理解所生成的輸出,而且還可以產生最高水平的結果,即比以前生成的圖像看起來更加真實的高分辨率圖像。
英偉達的代碼鏈接:
https://github.com/NVlabs/stylegan
Philip Wang 還在一封電子郵件中表示,絕大多數人都不知道,將來 AI 在合成圖像方面會有多么出色。
不過,盡管非常逼真,但是 StyleGAN 生成的圖片中還是存在一些技術缺陷,文摘菌之前也曾報道過,如何區分真假圖片的幾個方法,比如,有時候在生成的照片中,乍一看似乎與真實照片沒有什么區別,但仔細一看,會發現圖像中有一些奇怪的光線會漂浮在人物周圍,或者是局部出現奇怪的變形。這也是 Wang 能夠一眼看出照片偽造的關鍵所在。
GAN 于 2014 年由計算機科學家 Ian Goodfellow 及其同事首次引入,從那之后,GAN 變得越來越強大,現在已經可以以驚人的高分辨率生成高度逼真的圖像。
不僅如此,這些程序還可以用于生成人們跳舞的視頻,甚至是“將夏天的場景變成冬天的仙境”。不過也有令人苦惱的地方,就是這項技術也有隨時被用于以“deepfakes”為核心的的假色情影片制作中。
Wang 的網站在租用的服務器上運行,該服務器配有運行 Nvidia 軟件的強大 GPU,Wang 透露道,每兩秒鐘生成一張隨機的臉,隨后以可擴展的方式展示給全世界,這其中沒什么花哨。
REGIUM 這次事件,不管真假,都足以再次讓我們反思技術帶來的雙面性,的確,大規模的虛假復制將對于平臺、個人都將造成不同程度的傷害。
顯然,看似作為罪魁禍首的 GAN 技術,仍然是一種通用的東西,而真正將此濫用的,正是我們人。或許正是出于對現在以及未來 GAN 的逐漸“瘋魔化”趨勢,Wang 曾表示,他想要在以后堅持真實的臉部圖像,“人的臉對我們的認知最重要,因此我決定提出該特定的預訓練模型”。
對此,你又是怎么看的?
相關報道:
https://gigazine.net/news/20200309-fake-engineer-chess-board/
總結
以上是生活随笔為你收集整理的产品视频被曝合成,用AI造出4个工程师,这家公司火了的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 求最亲的人歌词
- 下一篇: 华强北“开市”后,商家为多卖台手机拼成了