Deepfake，這一 AI 領(lǐng)域的“大毒瘤”，正在引起越來越多來自行業(yè)的反擊。

當(dāng)?shù)貢r(shí)間2020年1月6日，F(xiàn)acebook 全球政策管理副總裁 Monika Bickert 在博客中表示，F(xiàn)acebook 將刪除滿足其標(biāo)準(zhǔn)的 Deepfake 視頻。這是 Facebook 打擊平臺上「操縱媒體」（Manipulated Media）的最新動作。

Monika Bickert 表示：

雖然 Deepfake 視頻當(dāng)前在互聯(lián)網(wǎng)上仍然很少見，但其數(shù)量的增加將會對行業(yè)和社會構(gòu)成重大挑戰(zhàn)。

何為 Deepfake？

Deepfake，大家可能或多或少聽過名字。

2017年底，美國社交新聞網(wǎng)站 Reddit 的一位用戶 Deepfakes 運(yùn)用人工智能技術(shù)，制作了一段“假”色情視頻，把《神奇女俠》女主角 Cal Gadot 的臉嫁接到一個(gè)成人電影女星身上，一時(shí)間引起轟動。

實(shí)際上，換臉在計(jì)算機(jī)視覺領(lǐng)域頗為常見，提到 AI 換臉的方法，一個(gè)繞不開的話題便是 Cycle GAN——人臉轉(zhuǎn)換在早期的一個(gè)重要嘗試。 Cycle GAN 由深度學(xué)習(xí)模型 GAN（Generative Adversarial Networks，即生成對抗網(wǎng)絡(luò)）衍生而來，可以便捷地學(xué)習(xí)兩個(gè)類別之間的轉(zhuǎn)換關(guān)系，因而天然地適用于「圖像到圖像轉(zhuǎn)換」。

不過，Cycle GAN 保證了語義上的轉(zhuǎn)變，卻沒法保證一些細(xì)節(jié)問題，而最主要的兩點(diǎn)便是表情無法一一對應(yīng)、會出現(xiàn)混雜無意義的像素。

不同于 Cycle GAN，Deepfake 是一種深度自動編解碼器模型（Autoencoder-Decoder），通過用源人物和目標(biāo)人物的至少幾百張照片，訓(xùn)練模型分別識別、還原兩人面部的能力，最后用源人物的照片搭配目標(biāo)人物的解碼器，從而完成轉(zhuǎn)換。

當(dāng)然，Deepfake 也有局限——無法在小樣本上工作，也就是說無法憑一兩張照片就替換兩張臉，模型的訓(xùn)練過程也需要消耗大量資源。

由于用戶 Deepfakes 制作并上傳的換臉視頻涉及色情內(nèi)容，且侵犯了他人隱私，Reddit 官方將其封號，而作為報(bào)復(fù)，Deepfakes 也將換臉視頻的 AI 代碼免費(fèi)公開。

潘多拉的魔盒一打開，Deepfake 開始憑借著驚人的發(fā)展速度、逼真的換臉效果，并最終造成了惡劣的社會的消極影響。荷蘭網(wǎng)絡(luò)安全初創(chuàng)公司 Deeptrace 曾于2019年10月發(fā)布了一份關(guān)于 Deepfake 現(xiàn)狀的報(bào)告，并指出網(wǎng)絡(luò)上現(xiàn)有的 Deepfake 視頻中有96% 涉及色情，各大色情網(wǎng)站上流傳的 Deepfake 視頻中，所有受害者均為女性；同時(shí)，娛樂圈名人成為 Deepfake 視頻的主要惡搞對象。

另外，Deepfake 對政局的影響也不容小覷，其中最為典型的兩個(gè)例子是：

• 2018年，由 Deepfake 合成的加蓬總統(tǒng) Ali Bongo 新年致辭視頻曾引起了兵變；

• 2019年，馬來西亞經(jīng)濟(jì)部長 Azmin Ali 與男性發(fā)生性關(guān)系的視頻攪動了馬來西亞政局（雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))注：同性性關(guān)系在馬來西亞屬違法行為，Azmin Ali 聲稱視頻是由 Deepfake 技術(shù)偽造，屬政治陰謀）；

正如荷蘭網(wǎng)絡(luò)安全初創(chuàng)公司 Deeptrace創(chuàng)始人兼首席科學(xué)官 Giorgio Patrini所說：

無論是視頻、音頻還是文本，我們一直以來依賴和信任的多個(gè)數(shù)字通信渠道都已遭到了顛覆。

政府、企業(yè)、學(xué)界聯(lián)合發(fā)力

Deepfake 視頻的發(fā)展自然而然引發(fā)了人們的恐慌與深思。因此，各大科技企業(yè)也開始聯(lián)合學(xué)術(shù)界做出行動，避免造成更深的負(fù)面影響。

正如紐約州立大學(xué)工程與應(yīng)用科學(xué)學(xué)院呂思偉教授所說：

解決這一問題需要技術(shù)人員、政府機(jī)構(gòu)、媒體、公司以及每一個(gè)在線用戶的共同努力。

2019年9月5日，F(xiàn)acebook CTO Mike Schroepfer 宣布，F(xiàn)acebook 正與微軟公司聯(lián)合包括麻省理工學(xué)院、牛津大學(xué)、康奈爾科技校區(qū)和伯克利大學(xué)在內(nèi)的多所大學(xué)研究檢測 Deepfake 的方法，同時(shí)非營利性研究組織 Partnership on AI 也參與其中，該組織的成員包括 Google、蘋果、亞馬遜、IBM 等大型科技公司。

另外，F(xiàn)acebook 投入了1000萬美元發(fā)起“Deepfake 檢測挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC），競賽于2019年末在溫哥華舉行的 NeurIPS 2019上正式啟動，并于2020年春季結(jié)束，進(jìn)而激勵研究人員以及業(yè)余愛好者尋找解決方案。

當(dāng)月，Google AI 開源 Deepfake 視頻檢測數(shù)據(jù)集，該數(shù)據(jù)集共包含來自28個(gè)不同場景的由真人演員歷時(shí)1年現(xiàn)場拍攝的3000多段視頻。

2019年10月初，美國參議院情報(bào)委員會的 Mark Warner 和 Marco Rubio 召集了包括 Facebook、Twitter、YouTube、Reddit 和領(lǐng)英在內(nèi)的11家科技公司負(fù)責(zé)人，旨在加快制定行業(yè)標(biāo)準(zhǔn)，規(guī)范 AI 合成內(nèi)容的分享、移除及存檔。月末，Twitter 發(fā)布了平臺擬將執(zhí)行的草案，并公開征集用戶意見。

正如本文開頭提到的，F(xiàn)acebook 近日發(fā)布博客，公開了針對 Deepfake 視頻的新政策。

博客提到，F(xiàn)acebook 將刪除符合以下標(biāo)準(zhǔn)的操縱媒體：

• 過度編輯或合成的視頻，誤導(dǎo)觀眾以為視頻中的人物說了他們實(shí)際并沒有說過的話；

• 通過 AI 或機(jī)器學(xué)習(xí)技術(shù)對原有視頻素材進(jìn)行整合、替換或疊加生成的視頻。

值得一提的是，對于不符合上述標(biāo)準(zhǔn)的視頻，第三方事實(shí)核查員也會審查（包括 Facebook 的全球50多個(gè)合作伙伴，將使用40多種語言進(jìn)行核查）。如果視頻被評定為虛假或部分虛假，F(xiàn)acebook 將明顯減少其在 News Feed 信息流中的傳播，用戶在分享該視頻時(shí)也會收到提醒。

同時(shí)，F(xiàn)acebook 指出，新政策不適用于涉及模仿或諷刺內(nèi)容的視頻，以及僅作了刪減或改變了說話順序的視頻。

Facebook 新政策充滿爭議

美智庫新美國安全中心 CNAS 技術(shù)與國家安全項(xiàng)目主任 Paul Scharre 曾警告說：

Deepfake 具有極大的破壞性，利用它來操控選舉只是時(shí)間問題。

因此，進(jìn)入2020年，隨著本屆美國總統(tǒng)大選臨近，作為全球最大的社交媒體平臺，F(xiàn)acebook 此舉自然也考慮了政治方面的因素。

雷鋒網(wǎng)了解到，Monika Bickert 的博客于她即將出席國會關(guān)于網(wǎng)絡(luò)操縱和欺騙的聽證會之前發(fā)出，這可能并非巧合——距離2020年大選只剩10個(gè)月時(shí)間，很少有哪個(gè)政治階層的人對 Facebook 在民主進(jìn)程中發(fā)揮的作用感到滿意，此次政策的宣布似乎是 Facebook 在向當(dāng)局證明自己的能力。

談到政治，猶記得，2019年一段美國民主黨議員 Nancy Pelosi 的演講視頻遭到惡搞（視頻倍速降低至0.75X，Nancy Pelosi 音調(diào)也被調(diào)高），使其看上去很像是醉酒狀態(tài)。很快，這段視頻就傳遍了各大社交網(wǎng)絡(luò)，對當(dāng)事人形象造成了極大影響。

對此，F(xiàn)acebook 表示，由于視頻屬于常規(guī)剪輯，并未違反平臺的任何規(guī)定，因此不會刪除；不過鑒于其負(fù)面影響，F(xiàn)acebook 減少了該視頻在平臺的傳播。

這一做法招致了廣泛批評，而 Facebook 此次推出的“新政”也未針對類似去年 Nancy Pelosi 視頻的虛假內(nèi)容給出令人信服的策略，因此充滿爭議，爭議的主要原因有以下幾條：

第一，第1條標(biāo)準(zhǔn)只適用于那些「讓觀眾誤以為視頻中的人物說了他們實(shí)際上沒有說過的話」的視頻，也就是說不包含那些讓觀眾誤以為視頻中的人物做了他們實(shí)際上沒有做過的事情的 Deepfake 視頻。

其實(shí)這是個(gè)很大的漏洞。按照 Facebook 的說法，哪怕一個(gè) Deepfake 視頻里面有政客焚燒美國國旗，參加白人民族主義集會，或與恐怖分子握手，F(xiàn)acebook 也不會刪除視頻。雖然以上都是「極端情況」，但在外交政策、國家安全和選舉誠信方面，這些往往是最緊要的。尷尬的是，F(xiàn)acebook 一位發(fā)言人的確向美國付費(fèi)媒體 OneZero 證實(shí)，這些情況下平臺不會刪除視頻。

第二，第2條標(biāo)準(zhǔn)對于控制虛假信息的傳播效果有限，因?yàn)楝F(xiàn)階段絕大多數(shù)此類視頻依然是通過視頻剪輯軟件來編輯的，通過手動刪除背景信息或調(diào)整語序，視頻剪輯者便到達(dá)了“斷章取義”的目的。正如紐約大學(xué)斯特恩商業(yè)和人權(quán)中心副主任、政治虛假信息專家 Paul Barrett 所說：

根據(jù) Facebook 的新政策，即便是虛假視頻，但因?yàn)榇鄹牡氖侄尾幌冗M(jìn)，所以不會被刪除。

第三，Facebook 在博客里提到的「事實(shí)核查政策」有嚴(yán)重的局限性。美國《連線》雜志作家 Renée DiResta 認(rèn)為：

事實(shí)核查政策的一個(gè)主要問題就是太慢了，在查明事實(shí)之前，視頻一直在病毒式傳播；而且如果涉及到政治，大多數(shù)人并不會相信事實(shí)核查的結(jié)果，這甚至還會升級為黨派之爭。

一個(gè)很好的例證便是——2019年 Facebook 的事實(shí)核查機(jī)制啟動時(shí)，Nancy Pelosi 的視頻已經(jīng)廣為傳播，而且最終也沒被刪除，負(fù)面影響并未降低；面對網(wǎng)絡(luò)暴力，Nancy Pelosi 還指責(zé) Donald Trump 團(tuán)隊(duì)也有不可推卸的責(zé)任（雷鋒網(wǎng)注：視頻中 Nancy Pelosi 在談?wù)?Donald Trump）。

第四，該政策僅針對視頻。近日，美國亞利桑那州共和黨眾議員 Paul Gosar 在 Twitter 上發(fā)了一張前總統(tǒng) Barack Obama 與伊朗總統(tǒng)握手的偽造照片。Facebook 證實(shí)，這確實(shí)也不在新政策針對的范圍內(nèi)。

第五，該政策最大的漏洞是不適用于涉及模仿或諷刺的視頻。實(shí)際上，虛假信息制造者往往是利用“諷刺”的標(biāo)簽做幌子，一次次順利通過 Facebook 的事實(shí)核查，病毒式傳播著帶有明顯誤導(dǎo)性的消息。除非 Facebook 明確定義什么才算“諷刺”，否則 Deepfake 視頻借著“諷刺”的名號蒙混過關(guān)也不是不可能。

第六，該政策可能有向權(quán)貴低頭之嫌。據(jù)《紐約時(shí)報(bào)》報(bào)道，F(xiàn)acebook 的一位發(fā)言人發(fā)郵件稱：

如果政治演講符合公眾利益，F(xiàn)acebook 不會對其進(jìn)行審查。 如果是政治人物違反了平臺規(guī)定，我們將通過權(quán)衡「公共利益價(jià)值和損害風(fēng)險(xiǎn)」來進(jìn)行評估。

對此，《紐約時(shí)報(bào)》認(rèn)為，所謂的「公共利益價(jià)值和損害風(fēng)險(xiǎn)」定義模糊，但可以確定的是，政治人物是受到保護(hù)的階級。如此看來，政治人物操縱社交媒體，似乎比普通人更容易。

在批評聲不絕于耳之時(shí)，也有一些人士表示了對這一政策的肯定。

比如非營利組織 WITNESS 的項(xiàng)目主管 Sam Gregory 表示：

我認(rèn)為這個(gè)政策很好，在 Deepfake 成為一個(gè)普遍的問題之前，社交平臺首先要清楚地表明立場，宣布他們的具體政策，這是很重要的。

總結(jié)

以上是生活随笔為你收集整理的AI行业反击：向 Deepfake 宣战！的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。