2019年4月23日

 

4月20日，中國十三屆全國人大常委會第十次會議，開始審議民法典人格權編草案二審稿。草案提出，民法應禁止任何人以基於人工智慧（AI）的“深度偽造”（deepfake）技術，替換網路視頻中的人物面部，以保護肖像權。

中國官方的新華社說，深度偽造可以製作使人難辨真假的動態人臉畫面和聲音，“AI換臉”可以隨意替換視頻的角色面部。報導說，這引發人們對相關技術可能侵犯肖像權、危害社會公共利益、乃至國家安全的擔憂。

此次提議的“民法典人格權編草案二審稿”建議規定：任何組織或者個人不得以醜化、汙損，或者利用資訊技術手段偽造等方式，侵害他人的肖像權。

 

“AI換臉”今年2月在中國網路空間討論中，引起熱議。起因是一名“深度偽造”技術專家發佈的一段“移花接木”視頻。視頻中，當代中國女演員楊冪的臉，被用在1994年版《射雕英雄傳》中黃蓉的角色上。視頻中的人物表情自然逼真，許多網友感歎“看不出破綻”。

但這段視頻也引起當事人的不滿。視頻製作者“肖先生”發文道歉，稱自己是一名AI神經網路學習的研究人員，初衷只是希望讓更多人認識這項技術，並在自己的網站上刪除這段影片。

此次“換臉”風波，也使人擔憂“深度偽造”技術可能引發的社會和政治影響。

 

2018年7月，美國演員兼製片人喬丹·皮爾（Jordan Peele）製作一段美國前總統歐巴馬“譴責”現任總統川普的“深度偽造”視頻。2017年7月，華盛頓大學的研究人員開發出一套基於人工智慧的“演算法”，這套演算法可以修改一段講話視頻中歐巴馬的嘴形，使之準確匹配任何聲音內容。

皮爾說，他參與製作偽造歐巴馬講話內容的視頻，是為了告誡人們警覺：視頻資料並不總是消息的準確來源。

而中國此番網上流傳的“深度偽造”視頻似乎技高一籌：視頻中的人物不僅換了口型，而是整個“換臉”。

 

長期關注假資訊傳播的美國國會參議員馬可·魯比奧（Marco Rubio），今年2月發佈聲明警告說：“美國的敵人已經在使用虛假的圖像，在散播不滿情緒、企圖分裂我們。”

他說：“想像一下，如果一段視頻表現的是選票失竊、政治領袖說出不雅言論、或是在國外衝突中有無辜平民遇害。”

中國的AI視頻製作者“肖先生”說，實現逼真的深度偽造的技術門檻很高。他說，這項開發技術需要應用者有一台有8核CPU V100顯卡的主機，“這就足以讓很多人打退堂鼓，研發過程也很枯燥乏味”。

 

不過，電腦專家認為，深度偽造技術要達到任何用戶都能使用的簡易程度只是時間問題。

美國國會山報（The Hill）援引智庫“新美國中心”研究院彼得·辛格（Peter Singer）的話說，深度偽造技術“肯定會被用作一種武器”，被用於擾亂國內政治，或者被敵對國家用於在戰場上取得先機。