2020 年 5 月 28 日下午，十三屆全國人大三次會議表決通過了中華人民共和國民法典，民法典將在 2021 年 1 月 1 日正式施行。6 月 1 日晚，兩會已授權民法典正式文本發布。

這是中國 1949 年后首部以 “法典”命名的法律，財新評價它：“象征生命、自由、財產的私權立法迎來高光時刻。”值得注意的是，民法典人格權編中明確規定了不得用技術手段偽造等方式侵害他人肖像權，矛頭直接指向 AI 換臉、變聲。

“民法典正式施行后，即便用戶利用 AI 技術換臉只是單純的娛樂，沒有營利目的，也有可能被認定為是侵犯肖像權。”廣東合邦律師事務所律師肖錦陽對開源中國表示，《民法典》第 1019 條明確規定了肖像權的消極權能，這對 AI 換臉等濫用信息技術手段侵犯肖像權的行為進行禁止和預防具有積極意義。

我國新頒布的民法典中第 1019 條就規定：

任何組合或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規定的除外。

未經肖像權人同意，肖像作品權利人不得以發表、復制、發行、出租、展覽等方式使用或公開肖像權人的肖像。

而在此之前，我國的肖像權保護主要參照《民法通則》第一百條規定：

公民享有肖像權，未經本人同意，不得以營利為目的使用公民的肖像。

AI 換臉在技術層面只是做深度學習訓練的一個切入點，往往兼具娛樂性。但在應用和商業方面，很多換臉軟件游走在灰色地帶，甚至引發法律風險。現在，人們通常用 deepfake（可直譯為深度造假）來指代那些會造成不良影響的 AI 換臉影像成品和軟件。

隨著 deepfake 的泛濫，多個國家已出臺政策法規監管。此外，為防止技術作惡，人們正嘗試用技術制衡技術，也有人在探討如何為從事技術開發的人員增加一門 “道德倫理課”，以追求行業自律……

deepfake “游戲”泛濫

在 5 月 28 日民法典表決剛剛通過時，“AI 換臉被納入監管”的 “提示”就立刻在 IT 業傳播開來。

關注度在一定程度上反映了其熱度。日前，GitHub 上一個集成各類 deepfake 功能的倉庫 DeepFaceLab 登上熱榜。DeepFaceLab 的介紹中赫然寫著：DeepFaceLab 可以用來換臉，和改變政客們的言論。截至目前，DeepFaceLab 已有 14.7K Star。

制造 deepfake 影像的門檻正在變低。深圳大學計算機與軟件學院副教授儲穎告訴開源中國，無論是將人臉互換、還是直接生成虛假圖片視頻，技術上都屬于深度學習范疇，差別無非就是數據集不同、模型不同、算法不同和參數不同。“人工智能的技術應用門檻正在變得越來越低”。

近兩年，由于生成對抗網絡技術 GAN 也被用在 deepfake 制作中，生成的虛假圖片視頻數量飛速上漲。

此外，人工智能在 2012 年開始火熱也是由于圖像分類識別研究的興起，慢慢從圖像識別、再到圖像生成。而 AI 合成圖像視頻又是可以看得見、摸得著的應用，因此很多開發者都在嘗試此類應用，這也讓 “造假”不可避免地增多。加上虛假信息常和女星、政客、高熱度人物捆綁，deepfake 應用和成品往往能飛快走紅。

2019 年 8 月 30 日，陌陌上線一款智能換臉產品 ZAO。用戶只需要在軟件中上傳一張自己清晰、正面的照片，便能將一些經典影視作品中的人物換成自己，同時保留影視人物特征和自己的部分面部特征，生成短視頻和 GIF 動圖。視頻和動圖處理過程僅需 1-10 秒，之后用戶可以將其分享至微信、微博、QQ 等平臺。

推出后的第三天，2019 年 9 月 1 日，ZAO 就登頂 Apple App Store 免費娛樂應用程序榜單。

（微博用戶使用 ZAO AI 換臉鞠婧祎影視作品人物形象視頻）

但由于 ZAO 的用戶隱私條款存在爭議，很快被微信封殺，陌陌也被網信辦約談整改，熱度驟降。不過，ZAO 是用戶將自己的臉套到其他人臉上，最終成果綜合了兩個人物的面部特征，此類換臉在肖像權和虛假信息傳播方面引發的爭議較小。

而通常我們在談論 deepfake 有害時，更多指將別人（尤指公眾人物）的臉換到自己、第三人、或虛擬人物的臉上，只保留該人物的面部特征，但套上了原本不屬于他的面部表情，合成以假亂真的視頻圖片，導致虛假信息甚至新聞擴散。

deepfake 一詞出現在 2017 年 12 月。當時 Reddit 上一個 ID 為 deepfake 的用戶，上傳了一個合成視頻，內容是將好萊塢明星蓋爾 · 加朵的臉換到情色電影中的女主角身上。該軟件迅速流行起來，但由于很多人不滿，2018 年初，Reddit 開始封禁 deepfake。2019 年 2 月，deepfake 在 GitHub 上的倉庫遭限制訪問。

但 deepfake 依然備受關注，更多的 deepfake 軟件和視頻在出現。現在最常見的是使用 AI 換臉，合成色情或政治人物言論視頻，這可以帶來黑產交易，甚至影響部分國家和地區的政治局勢。

去年有人調查，AI 換臉一度形成一條完整的色情黑色產業鏈。閑魚上曾有商家售賣女星的換臉合集視頻，并且提供從成品情色視頻，到軟件制作各環節的交易和服務。當然，曝光之后平臺方做了整改，現在在閑魚上檢索 “換臉”，已經沒有相關商品。外媒也曾報道，有技術人員利用 GAN，開發出 deepnude 等應用程序，可快速使圖像中的人物脫光衣服，以恐嚇和騷擾他人。

另外，一些廣為流傳的 deepfake 視頻，主角是知名政客。如下圖中的奧巴馬，均是 AI 合成。2018 年，加蓬出現一條涉及總統 Ali Bongo 新年致辭的虛假合成視頻，甚至引起兵變。過去政客間慣用的以性丑聞打擊對手的招數也借 deepfake 重燃。如 2019 年，馬來西亞出現一條涉及內閣大臣的性丑聞錄像帶，后被指控為政治陰謀。

“從長遠來看，deepfake 對民主構成了嚴重威脅，但女性很可能首先遭受苦難”，這是 2019 年，荷蘭一家專為監測 deepfake 而生的網絡安全公司 deeptrace 發表的調查結果總結。根據 Deeptrace 的數據，deepfake 視頻從 2018 年 12 月的 8,000 個增長到 2019 年年中的 14,678 個。幾乎所有內容都是色情內容，并且這些假視頻截至調查時已被瀏覽 1.34 億次。

一方面，deepfake 影像制作越來越簡單。另一方面，虛假影像對人身財產安全、人格尊嚴、社會安定的影響愈發嚴重。于是，人們也在加緊尋找減少技術傷害的方法。

用技術、道德規范和法律減少傷害

deepfake 虛假信息造成的負面影響，正被技術人員嘗試同樣用 AI 來解決。“開發者通過技術制衡技術”，肖錦陽認為，對于防止 AI 換臉作惡，目前最有效的方法是開發相應的檢測技術。

2019 年 8 月，美國國防部高級研究計劃局 DARPA 發布一項旨在能夠自動檢測、歸因和表征偽造媒體資產的技術——語義取證 SemaFor。SemaFor 的目標是開發一套語義分析算法，增加偽造媒體內容生產者操控、傳播虛假信息的難度。

之后，2019 年 9 月，Facebook、微軟又聯合包括麻省理工、牛津大學在內的幾所高校，發起一項 deepfake 的檢測挑戰賽。谷歌、亞馬遜等企業也參與其中，提供數據和資助。

Facebook 給參賽者開放訪問 100000 多個視頻的獨特數據集權限，并提供 1000 萬美元的研究資助和獎勵。谷歌母公司 Aiphabet 旗下的 Jigsaw 和谷歌一起，提供了 3000 個付費演員的新視頻數據集，以幫助改善偵查技術。亞馬遜提供 100 萬美元的云信用額度支持該挑戰。

（Google 和Jigsaw 提供的由 28 個演員參演的 3,000 個被操縱視頻的數據集）

此外，Jigsaw 還曾發布一種新事實檢查工具Assembler，使用 AI 來幫助記者檢查圖像是否偽造或被篡改。Jigsaw 還建立了一個 StyleGAN 檢測 deepfake 成品，使用機器學習發現真實人物和被操縱人物圖像之間的差異。

AI 檢測到虛假影像資料之后，就可以提醒用戶。Facebook、Twitter 選擇了標記 deepfake 資料和刪除有嚴重危害的信息。

今年初，外媒報道，Facebook 在美國 2020 總統大選之前，正加緊審查包含 AI 換臉的假消息。Facebook 全球政策管理副總裁 Monika Bickert 表示，不一定要刪除被標記為 “假”的視頻，但會向用戶發出警告，告知它們是假的。“如果我們僅刪除事實檢查人員標記為虛假的所有操縱視頻，這些視頻仍將在互聯網或社交媒體生態系統的其他位置提供。通過將其保留并標記為虛假，我們將為人們提供重要信息。”此外對于可能造成重大社會危害的虛假信息將做刪除處理。

Twitter 刪帖也是有前提的。如內容可能對某團體或個人人身安全構成威脅，或可能造成暴動和內亂，那么 deepfakes 內容將會被刪除。反之，可能只是打上標記。2 月，Twitter 在術語表中添加了一個新條款，涵蓋了 “合成和受控媒體”，表示會標注包含技術偽造內容的推文，并在人們轉發推文之前向他們顯示警告，并阻止推薦。

在肖錦陽看來，平臺經過核驗并帶有標識的傳播擴散，不失為一種好的方式。當然，在做技術檢測的同時，通過相關法律規范各方行為也是必不可少的一步。

針對平臺方，肖錦陽指出，平臺應對于用戶的隱私和 AI 換臉問題應當按照國家有關規定開展安全評估，進一步加強監管審核。

根據《侵權責任法》的規定，網絡用戶利用網絡服務平臺實施侵權行為的，平臺負有采取刪除、屏蔽、斷開鏈接等措施，未采取必要措施的，將與該網絡用戶承擔連帶責任。且網絡服務提供者知道網絡用戶利用其網絡服務侵害他人民事權益，未采取必要措施的，也將與該網絡用戶承擔連帶責任。因此，平臺方面對于用戶的隱私和 “AI 換臉”問題應當按照國家有關規定開展安全評估，進一步加強監管審核。

同樣對于用戶來說，隨意使用并上傳 deepfake 視頻也有很大法律風險。肖錦陽介紹，用戶如果要進行 AI 換臉使用、合成、再加工，首先需要得到肖像權人的同意；并不得侵害他人人格權益、不危害社會公共利益。民法典之外，國家還相繼出臺了一些規定等，規范網絡視頻、圖像傳播。

去年底開始，國家相繼發布《網絡音視頻信息服務管理規定》、《網絡信息內容生態治理規定》等法規 , 明確不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。《網絡音視頻信息服務管理規定》明確，任何組織和個人不得利用網絡音視頻信息服務以及相關信息技術從事法律法規禁止的活動，侵害他人合法權益。

網絡音視頻信息服務提供者和網絡音視頻信息服務使用者違反上述《規定》的，依照《中華人民共和國網絡安全法》《互聯網信息服務管理辦法》《互聯網新聞信息服務管理規定》《互聯網文化管理暫行規定》《互聯網視聽節目服務管理規定》等相關法律法規規定處理；構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

這是法律層面的討論，但很多時候，人們都希望問題可以在法庭之外就能被解決，比如提高道德規范。

此前，在 GitHub 限制 deepfake 倉庫時，就有許多開發者提及應該在學校教育中加入 “計算機倫理課”，在學習寫代碼之外，了解相關法律、以及應如何使用技術的哲學和道德規范。甚至有人發出疑問：要不要制造可能被濫用的技術？這類問題也并不只是聚焦在 deepfake 上。一位科普及解密紀錄片導演詹姆斯 ? 巴拉特，2016 年發表《我們最后的發明》一書，提出這樣一個問題：“我懷疑的是先進人工智能的安全性，以及現代文明開發先進技術的魯莽性。”

不過，儲穎認為，技術本身無對錯。從防止技術作惡的角度出發，開設計算機倫理課固然有必要，但要想守住底線，立法才是保證。“這涉及道德和法律的關系問題。道德是內在的，非強制性的；法律是外在的，具有明確的強制性。我們應在法律約束的基礎上，盡可能地提高自己的道德標準。”

儲穎現在正在教授《計算機倫理學》課程。這門課程 4 年前由計軟學院首次在內部開設，去年開始增設了面向全校學生的 “品牌通識課程”。儲穎指出，目前在全國范圍內開設此類倫理課程已經是一個趨勢。2018 年 5 月，國務院學位委員會頒布了《關于轉發< 關于制訂工程類碩士專業學位研究生培養方案的指導意見> 及說明的通知》，將工程倫理課納入工程碩士專業學位研究生公共必修課范疇。近年來，全國工程專業學位研究生教育指導委員會已組織多期《工程倫理》師資培訓課程。

而關于倫理課要講什么，儲穎也給出了自己的看法：

“目的不是告訴學生怎么做和做什么，而是提醒他，你需要思考這件事，并在將來做出正確的倫理抉擇。”

總結

以上是生活随笔為你收集整理的AI 换脸将受《民法典》严监管，我们该如何防范技术作恶？的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。