2020 年 5 月 28 日下午，十三屆全國人大三次會議表決通過了中華人民共和國民法典，民法典將在 2021 年 1 月 1 日正式施行。6 月 1 日晚，兩會已授權(quán)民法典正式文本發(fā)布。

這是中國 1949 年后首部以 “法典”命名的法律，財新評價它：“象征生命、自由、財產(chǎn)的私權(quán)立法迎來高光時刻。”值得注意的是，民法典人格權(quán)編中明確規(guī)定了不得用技術(shù)手段偽造等方式侵害他人肖像權(quán)，矛頭直接指向 AI 換臉、變聲。

“民法典正式施行后，即便用戶利用 AI 技術(shù)換臉只是單純的娛樂，沒有營利目的，也有可能被認(rèn)定為是侵犯肖像權(quán)。”廣東合邦律師事務(wù)所律師肖錦陽對開源中國表示，《民法典》第 1019 條明確規(guī)定了肖像權(quán)的消極權(quán)能，這對 AI 換臉等濫用信息技術(shù)手段侵犯肖像權(quán)的行為進(jìn)行禁止和預(yù)防具有積極意義。

我國新頒布的民法典中第 1019 條就規(guī)定：

任何組合或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。

未經(jīng)肖像權(quán)人同意，肖像作品權(quán)利人不得以發(fā)表、復(fù)制、發(fā)行、出租、展覽等方式使用或公開肖像權(quán)人的肖像。

而在此之前，我國的肖像權(quán)保護(hù)主要參照《民法通則》第一百條規(guī)定：

公民享有肖像權(quán)，未經(jīng)本人同意，不得以營利為目的使用公民的肖像。

AI 換臉在技術(shù)層面只是做深度學(xué)習(xí)訓(xùn)練的一個切入點(diǎn)，往往兼具娛樂性。但在應(yīng)用和商業(yè)方面，很多換臉軟件游走在灰色地帶，甚至引發(fā)法律風(fēng)險。現(xiàn)在，人們通常用 deepfake（可直譯為深度造假）來指代那些會造成不良影響的 AI 換臉影像成品和軟件。

隨著 deepfake 的泛濫，多個國家已出臺政策法規(guī)監(jiān)管。此外，為防止技術(shù)作惡，人們正嘗試用技術(shù)制衡技術(shù)，也有人在探討如何為從事技術(shù)開發(fā)的人員增加一門 “道德倫理課”，以追求行業(yè)自律……

deepfake “游戲”泛濫

在 5 月 28 日民法典表決剛剛通過時，“AI 換臉被納入監(jiān)管”的 “提示”就立刻在 IT 業(yè)傳播開來。

關(guān)注度在一定程度上反映了其熱度。日前，GitHub 上一個集成各類 deepfake 功能的倉庫 DeepFaceLab 登上熱榜。DeepFaceLab 的介紹中赫然寫著：DeepFaceLab 可以用來換臉，和改變政客們的言論。截至目前，DeepFaceLab 已有 14.7K Star。

制造 deepfake 影像的門檻正在變低。深圳大學(xué)計算機(jī)與軟件學(xué)院副教授儲穎告訴開源中國，無論是將人臉互換、還是直接生成虛假圖片視頻，技術(shù)上都屬于深度學(xué)習(xí)范疇，差別無非就是數(shù)據(jù)集不同、模型不同、算法不同和參數(shù)不同。“人工智能的技術(shù)應(yīng)用門檻正在變得越來越低”。

近兩年，由于生成對抗網(wǎng)絡(luò)技術(shù) GAN 也被用在 deepfake 制作中，生成的虛假圖片視頻數(shù)量飛速上漲。

此外，人工智能在 2012 年開始火熱也是由于圖像分類識別研究的興起，慢慢從圖像識別、再到圖像生成。而 AI 合成圖像視頻又是可以看得見、摸得著的應(yīng)用，因此很多開發(fā)者都在嘗試此類應(yīng)用，這也讓 “造假”不可避免地增多。加上虛假信息常和女星、政客、高熱度人物捆綁，deepfake 應(yīng)用和成品往往能飛快走紅。

2019 年 8 月 30 日，陌陌上線一款智能換臉產(chǎn)品 ZAO。用戶只需要在軟件中上傳一張自己清晰、正面的照片，便能將一些經(jīng)典影視作品中的人物換成自己，同時保留影視人物特征和自己的部分面部特征，生成短視頻和 GIF 動圖。視頻和動圖處理過程僅需 1-10 秒，之后用戶可以將其分享至微信、微博、QQ 等平臺。

推出后的第三天，2019 年 9 月 1 日，ZAO 就登頂 Apple App Store 免費(fèi)娛樂應(yīng)用程序榜單。

（微博用戶使用 ZAO AI 換臉鞠婧祎影視作品人物形象視頻）

但由于 ZAO 的用戶隱私條款存在爭議，很快被微信封殺，陌陌也被網(wǎng)信辦約談?wù)模瑹岫润E降。不過，ZAO 是用戶將自己的臉套到其他人臉上，最終成果綜合了兩個人物的面部特征，此類換臉在肖像權(quán)和虛假信息傳播方面引發(fā)的爭議較小。

而通常我們在談?wù)?deepfake 有害時，更多指將別人（尤指公眾人物）的臉換到自己、第三人、或虛擬人物的臉上，只保留該人物的面部特征，但套上了原本不屬于他的面部表情，合成以假亂真的視頻圖片，導(dǎo)致虛假信息甚至新聞擴(kuò)散。

deepfake 一詞出現(xiàn)在 2017 年 12 月。當(dāng)時 Reddit 上一個 ID 為 deepfake 的用戶，上傳了一個合成視頻，內(nèi)容是將好萊塢明星蓋爾 · 加朵的臉換到情色電影中的女主角身上。該軟件迅速流行起來，但由于很多人不滿，2018 年初，Reddit 開始封禁 deepfake。2019 年 2 月，deepfake 在 GitHub 上的倉庫遭限制訪問。

但 deepfake 依然備受關(guān)注，更多的 deepfake 軟件和視頻在出現(xiàn)。現(xiàn)在最常見的是使用 AI 換臉，合成色情或政治人物言論視頻，這可以帶來黑產(chǎn)交易，甚至影響部分國家和地區(qū)的政治局勢。

去年有人調(diào)查，AI 換臉一度形成一條完整的色情黑色產(chǎn)業(yè)鏈。閑魚上曾有商家售賣女星的換臉合集視頻，并且提供從成品情色視頻，到軟件制作各環(huán)節(jié)的交易和服務(wù)。當(dāng)然，曝光之后平臺方做了整改，現(xiàn)在在閑魚上檢索 “換臉”，已經(jīng)沒有相關(guān)商品。外媒也曾報道，有技術(shù)人員利用 GAN，開發(fā)出 deepnude 等應(yīng)用程序，可快速使圖像中的人物脫光衣服，以恐嚇和騷擾他人。

另外，一些廣為流傳的 deepfake 視頻，主角是知名政客。如下圖中的奧巴馬，均是 AI 合成。2018 年，加蓬出現(xiàn)一條涉及總統(tǒng) Ali Bongo 新年致辭的虛假合成視頻，甚至引起兵變。過去政客間慣用的以性丑聞打擊對手的招數(shù)也借 deepfake 重燃。如 2019 年，馬來西亞出現(xiàn)一條涉及內(nèi)閣大臣的性丑聞錄像帶，后被指控為政治陰謀。

“從長遠(yuǎn)來看，deepfake 對民主構(gòu)成了嚴(yán)重威脅，但女性很可能首先遭受苦難”，這是 2019 年，荷蘭一家專為監(jiān)測 deepfake 而生的網(wǎng)絡(luò)安全公司 deeptrace 發(fā)表的調(diào)查結(jié)果總結(jié)。根據(jù) Deeptrace 的數(shù)據(jù)，deepfake 視頻從 2018 年 12 月的 8,000 個增長到 2019 年年中的 14,678 個。幾乎所有內(nèi)容都是色情內(nèi)容，并且這些假視頻截至調(diào)查時已被瀏覽 1.34 億次。

一方面，deepfake 影像制作越來越簡單。另一方面，虛假影像對人身財產(chǎn)安全、人格尊嚴(yán)、社會安定的影響愈發(fā)嚴(yán)重。于是，人們也在加緊尋找減少技術(shù)傷害的方法。

用技術(shù)、道德規(guī)范和法律減少傷害

deepfake 虛假信息造成的負(fù)面影響，正被技術(shù)人員嘗試同樣用 AI 來解決。“開發(fā)者通過技術(shù)制衡技術(shù)”，肖錦陽認(rèn)為，對于防止 AI 換臉作惡，目前最有效的方法是開發(fā)相應(yīng)的檢測技術(shù)。

2019 年 8 月，美國國防部高級研究計劃局 DARPA 發(fā)布一項旨在能夠自動檢測、歸因和表征偽造媒體資產(chǎn)的技術(shù)——語義取證 SemaFor。SemaFor 的目標(biāo)是開發(fā)一套語義分析算法，增加偽造媒體內(nèi)容生產(chǎn)者操控、傳播虛假信息的難度。

之后，2019 年 9 月，F(xiàn)acebook、微軟又聯(lián)合包括麻省理工、牛津大學(xué)在內(nèi)的幾所高校，發(fā)起一項 deepfake 的檢測挑戰(zhàn)賽。谷歌、亞馬遜等企業(yè)也參與其中，提供數(shù)據(jù)和資助。

Facebook 給參賽者開放訪問 100000 多個視頻的獨(dú)特數(shù)據(jù)集權(quán)限，并提供 1000 萬美元的研究資助和獎勵。谷歌母公司 Aiphabet 旗下的 Jigsaw 和谷歌一起，提供了 3000 個付費(fèi)演員的新視頻數(shù)據(jù)集，以幫助改善偵查技術(shù)。亞馬遜提供 100 萬美元的云信用額度支持該挑戰(zhàn)。

（Google 和Jigsaw 提供的由 28 個演員參演的 3,000 個被操縱視頻的數(shù)據(jù)集）

此外，Jigsaw 還曾發(fā)布一種新事實(shí)檢查工具Assembler，使用 AI 來幫助記者檢查圖像是否偽造或被篡改。Jigsaw 還建立了一個 StyleGAN 檢測 deepfake 成品，使用機(jī)器學(xué)習(xí)發(fā)現(xiàn)真實(shí)人物和被操縱人物圖像之間的差異。

AI 檢測到虛假影像資料之后，就可以提醒用戶。Facebook、Twitter 選擇了標(biāo)記 deepfake 資料和刪除有嚴(yán)重危害的信息。

今年初，外媒報道，F(xiàn)acebook 在美國 2020 總統(tǒng)大選之前，正加緊審查包含 AI 換臉的假消息。Facebook 全球政策管理副總裁 Monika Bickert 表示，不一定要刪除被標(biāo)記為 “假”的視頻，但會向用戶發(fā)出警告，告知它們是假的。“如果我們僅刪除事實(shí)檢查人員標(biāo)記為虛假的所有操縱視頻，這些視頻仍將在互聯(lián)網(wǎng)或社交媒體生態(tài)系統(tǒng)的其他位置提供。通過將其保留并標(biāo)記為虛假，我們將為人們提供重要信息。”此外對于可能造成重大社會危害的虛假信息將做刪除處理。

Twitter 刪帖也是有前提的。如內(nèi)容可能對某團(tuán)體或個人人身安全構(gòu)成威脅，或可能造成暴動和內(nèi)亂，那么 deepfakes 內(nèi)容將會被刪除。反之，可能只是打上標(biāo)記。2 月，Twitter 在術(shù)語表中添加了一個新條款，涵蓋了 “合成和受控媒體”，表示會標(biāo)注包含技術(shù)偽造內(nèi)容的推文，并在人們轉(zhuǎn)發(fā)推文之前向他們顯示警告，并阻止推薦。

在肖錦陽看來，平臺經(jīng)過核驗(yàn)并帶有標(biāo)識的傳播擴(kuò)散，不失為一種好的方式。當(dāng)然，在做技術(shù)檢測的同時，通過相關(guān)法律規(guī)范各方行為也是必不可少的一步。

針對平臺方，肖錦陽指出，平臺應(yīng)對于用戶的隱私和 AI 換臉問題應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估，進(jìn)一步加強(qiáng)監(jiān)管審核。

根據(jù)《侵權(quán)責(zé)任法》的規(guī)定，網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)平臺實(shí)施侵權(quán)行為的，平臺負(fù)有采取刪除、屏蔽、斷開鏈接等措施，未采取必要措施的，將與該網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。且網(wǎng)絡(luò)服務(wù)提供者知道網(wǎng)絡(luò)用戶利用其網(wǎng)絡(luò)服務(wù)侵害他人民事權(quán)益，未采取必要措施的，也將與該網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。因此，平臺方面對于用戶的隱私和 “AI 換臉”問題應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估，進(jìn)一步加強(qiáng)監(jiān)管審核。

同樣對于用戶來說，隨意使用并上傳 deepfake 視頻也有很大法律風(fēng)險。肖錦陽介紹，用戶如果要進(jìn)行 AI 換臉使用、合成、再加工，首先需要得到肖像權(quán)人的同意；并不得侵害他人人格權(quán)益、不危害社會公共利益。民法典之外，國家還相繼出臺了一些規(guī)定等，規(guī)范網(wǎng)絡(luò)視頻、圖像傳播。

去年底開始，國家相繼發(fā)布《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī) , 明確不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動。《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確，任何組織和個人不得利用網(wǎng)絡(luò)音視頻信息服務(wù)以及相關(guān)信息技術(shù)從事法律法規(guī)禁止的活動，侵害他人合法權(quán)益。

網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者違反上述《規(guī)定》的，依照《中華人民共和國網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)文化管理暫行規(guī)定》《互聯(lián)網(wǎng)視聽節(jié)目服務(wù)管理規(guī)定》等相關(guān)法律法規(guī)規(guī)定處理；構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

這是法律層面的討論，但很多時候，人們都希望問題可以在法庭之外就能被解決，比如提高道德規(guī)范。

此前，在 GitHub 限制 deepfake 倉庫時，就有許多開發(fā)者提及應(yīng)該在學(xué)校教育中加入 “計算機(jī)倫理課”，在學(xué)習(xí)寫代碼之外，了解相關(guān)法律、以及應(yīng)如何使用技術(shù)的哲學(xué)和道德規(guī)范。甚至有人發(fā)出疑問：要不要制造可能被濫用的技術(shù)？這類問題也并不只是聚焦在 deepfake 上。一位科普及解密紀(jì)錄片導(dǎo)演詹姆斯 ? 巴拉特，2016 年發(fā)表《我們最后的發(fā)明》一書，提出這樣一個問題：“我懷疑的是先進(jìn)人工智能的安全性，以及現(xiàn)代文明開發(fā)先進(jìn)技術(shù)的魯莽性。”

不過，儲穎認(rèn)為，技術(shù)本身無對錯。從防止技術(shù)作惡的角度出發(fā)，開設(shè)計算機(jī)倫理課固然有必要，但要想守住底線，立法才是保證。“這涉及道德和法律的關(guān)系問題。道德是內(nèi)在的，非強(qiáng)制性的；法律是外在的，具有明確的強(qiáng)制性。我們應(yīng)在法律約束的基礎(chǔ)上，盡可能地提高自己的道德標(biāo)準(zhǔn)。”

儲穎現(xiàn)在正在教授《計算機(jī)倫理學(xué)》課程。這門課程 4 年前由計軟學(xué)院首次在內(nèi)部開設(shè)，去年開始增設(shè)了面向全校學(xué)生的 “品牌通識課程”。儲穎指出，目前在全國范圍內(nèi)開設(shè)此類倫理課程已經(jīng)是一個趨勢。2018 年 5 月，國務(wù)院學(xué)位委員會頒布了《關(guān)于轉(zhuǎn)發(fā)< 關(guān)于制訂工程類碩士專業(yè)學(xué)位研究生培養(yǎng)方案的指導(dǎo)意見> 及說明的通知》，將工程倫理課納入工程碩士專業(yè)學(xué)位研究生公共必修課范疇。近年來，全國工程專業(yè)學(xué)位研究生教育指導(dǎo)委員會已組織多期《工程倫理》師資培訓(xùn)課程。

而關(guān)于倫理課要講什么，儲穎也給出了自己的看法：

“目的不是告訴學(xué)生怎么做和做什么，而是提醒他，你需要思考這件事，并在將來做出正確的倫理抉擇。”

總結(jié)

以上是生活随笔為你收集整理的AI 换脸将受《民法典》严监管，我们该如何防范技术作恶？的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。