2024年2月29日

 

奧爾加·洛伊克（Olga Loiek）是一位來自烏克蘭的女生。今年20歲的她就讀於美國賓夕法尼亞大學的認知科學專業（cognitive science）。幾個月前，她在YouTube上開設了自己的頻道，主打心理健康和生活方式類的內容，目前已經積累了一萬多的訂閱人數。

但在中國的社交媒體上，一群和她長得一摸一樣的“分身”們卻自稱是在中國生活多年的俄羅斯人。她們用帶著外國口音的普通話讚美中國以及中俄關係，並表示非常想嫁給中國男人。她們的名字也各不相同，有的叫娜塔莎，有的叫格蕾絲，有的叫安娜……

中國新年前後，類似這樣盜用外國女性形象傳播親俄親中內容的短視頻在中國互聯網上廣泛流傳。這些利用人工智慧合成的視頻看起來頗為逼真，讓不少線民信以為真。大多數盜用外國女生形象的帳號似乎都以銷售俄羅斯產品為目的，常邀請觀看的線民們訪問他們的網店。

美國之音發現，部分盜用伊洛克形象的視頻帶有美國人工智慧公司HeyGen的標誌。HeyGen是一家2020年成立於中國深圳的科技公司，受到中國投資巨頭的青睞。HeyGen如今的總部位於洛杉磯。

中國2023年出臺的管理深度合成技術的法律和HeyGen自己的平臺規則都禁止在他人沒有給予許可的情況下用他人的形象製作視頻。

過去兩年裡，由美國人工智慧公司Open AI帶起的人工智慧熱潮席捲全球。不少中國科技企業也紛紛對基於人工智慧技術的模擬“數位人”進行了投資。同時，對中國當局可能利用人工智慧技術製作並傳播虛假資訊的擔憂也在不斷增長。政策專家告訴美國之音，北京在人工智慧上追上西方先進水準只是時間問題。

 

留學美國的烏克蘭女生“變身”熱愛中國的俄羅斯人

去年11月末，洛伊克在YouTube上開通了自己的頻道，不定期發佈視頻，發表一些對心理健康或是生活哲學的見解。不久，她開始收到其他用戶的留言，他們稱在中國的社交媒體上見過她講中文。

洛伊克一開始並沒有當回事，直到有一天，有人給她發來了那些視頻。

“我開始用穀歌翻譯翻譯這些視頻，” 她告訴美國之音。“我意識到大多數這些帳號在談論中國，俄羅斯以及中國和俄羅斯的關係是多麼得好。這挺讓我震驚的。”

洛伊克2021年夏天來到美國留學，但她的家人們都還在烏克蘭。2022年2月，俄羅斯對她的祖國發起了入侵戰爭。

“我的家人住在烏克蘭的西部，那裡目前還算比較穩定，” 她說。“不過每天都有一些形式的進攻在發生，所以情況還是相當困難。”

在美國之音流覽的盜用洛伊克形象的視頻裡，不少透過她的嘴稱讚了北京與莫斯科的緊密關係。

“中國和俄羅斯是難兄難弟，哪怕全世界拋棄我們，中國也不會拋棄我們。中俄友誼萬歲，” 一段抖音上的視頻說。

但更多視頻的主題是讚美中國的文化、歷史等，或是表達想要嫁給中國男人的願望：“你要是娶俄羅斯女孩的話，我們每天給你洗衣服、做飯、洗碗，還會給你生個洋娃娃，你想生幾個就生幾個，而且一點壓力都沒有。”

在抖音上，部分類似的視頻被平臺添加了標識，提示這可能是人工智慧的產物而非真人，但視頻的評論區依然充滿了將這些虛擬人物當真的中國線民。他們紛紛表示感謝這些“俄羅斯美女”對中國的讚美，並歡迎她們嫁到中國來。

洛伊克說她完全不贊同這些人工智慧人物說的話，但她表示理解為什麼中國線民會喜愛這樣的視頻。

“我想這大概是用來讓中國的人民感到外國人都承認他們的國家更加優越，” 她說。

俄羅斯對烏克蘭的戰爭爆發後，中國的網路上曾出現一邊倒對俄羅斯的支援。一些中國網紅們甚至用濾鏡將自己假裝成俄羅斯人，吸引流量，販賣商品。

洛伊克說她在抖音和小紅書等中國平臺上發現了至少32個盜用她形象的帳號。美國之音也在抖音上發現了多個這樣的帳號。大多數這些帳號都選用了外國人的名字，例如安娜、娜塔莎等，他們都自稱是在中國生活的俄羅斯女生，並鼓勵線民們去他們頁面連結的網路店鋪選購俄羅斯商品。這些帳號擁有的粉絲數位從上萬到幾十個不等。

這些帳號發佈的視頻頗為逼真，使用的洛伊克的形象和背景不少都完全來自她在自己YouTube上發佈的視頻。她的講話聲音也被完美地複製了下來。不過，這些視頻還是顯露了一些瑕疵，比如人物動作和表情的不流暢以及畫面的突然跳動等。

 

美國AI服務或被用來盜取他人形象

美國之音發現，在中國的互聯網上有不少展示如何盜取外國博主的臉用來製作虛擬人物的教程。而其中一些教程正是將洛伊克作為盜取的目標。在一部發佈於視頻網站嗶哩嗶哩的教程中，可以看到簡報者將一段洛伊克講話的片段上傳至了美國AI平臺HeyGen上，並由此製作出了一部“俄羅斯美女帶貨”的視頻。

這段教程顯示，想要通過HeyGen生成虛擬人物，只需要上傳一段2分鐘的視頻，視頻中的人需要直視鏡頭，面部保持可見，說話當中有停頓，背景安靜且明亮。洛伊克在YouTube上上傳的所有視頻幾乎都符合這些條件。

在其他一些使用了洛伊克形象的演示視頻中，美國之音也發現了HeyGen的標誌。事實上，HeyGen已經在中國成為了一個頗受歡迎的AI製作工具，嗶哩嗶哩上有著大量關於使用HeyGen製作虛擬人物的教程。

HeyGen是一家提供虛擬人物製作的人工智慧公司，其總部位於洛杉磯。不過，HeyGen最初由來自中國的徐卓和梁望於2020年在深圳創辦，公司的中文名叫做詩雲科技。作為上海同濟大學校友的兩人此前分別在美國社媒公司Snap和中國科技公司位元組跳動任職。

HeyGen從一開始就受到投資界的看好，創建3個月後便得到了美國投資公司紅杉中國分公司以及中國投資巨頭真格基金的融資。《福布斯》報導稱該公司目前的評估價值為7500萬美元。

去年10月，美國前總統唐納德·特朗普（Doanld Trump）和歌星泰勒·斯威夫特（Taylor Swift）說著標準普通話的片段曾在美國和中國的社交媒體上走紅。這幾段視頻正是通過HeyGen提供的技術製作的。

不過，HeyGen的管理政策則規定，用戶不可以在沒有獲得他人同意的前提下用他人的形象製作虛擬人物，包括名人和公眾人物。HeyGen官方發佈的虛擬人物製作教程裡也顯示，被錄製的個人需要上傳一段授權視頻。盜取洛伊克等他人形象的用戶是如何繞開這一步的還不清楚。

根據中國媒體的報導，HeyGen已經於11月申請登出了在中國的實體。

美國之音就洛伊克的形象可能被他人通過HeyGen盜取詢問了該公司，但截至發稿尚未得到回應。

中國政府於2023年初開始實行《互聯網資訊服務深度合成管理規定》，其中對人臉操控、姿態操控等深度合成技術的使用進行了規範，要求必須“告知被編輯的個人，並取得其單獨同意”。

洛伊克說，她和她的YouTube訂閱者們已經就她的形象被盜用一事向各個中國社媒平臺投訴。她追蹤的32個冒充她的帳號中已經有10個被下架。美國之音發現的帳號中大部分已經被註銷或是禁言。但部分視頻依然可以在抖音上被搜索到。

美國之音就此向抖音的母公司位元組跳動進行了詢問，但截至發稿尚未得到回復。

洛伊克在YouTube上講述了自己的遭遇，並獲得了線民們一邊倒的支持。她的故事也被轉發到了中國的社媒上。中國線民也對她表達了同情。一位線民寫道：“希望趕緊出臺相應的法律法規吧，保障普通人的合法權益。”

洛伊克說她不打算因為這件事停止在YouTube上發佈視頻，但她指出，當下快速發展的人工智慧技術需要得到一定程度的管理。

“很多人都有YouTube頻道，很多人都有博客，他們在網路上活躍著。僅僅因為有威脅，不代表你就應該停止追求自己的興趣愛好，” 她告訴美國之音。“但同時，我們需要某種管理框架，那樣我們才能理解，我們才能防止這樣的事情再次發生。”

 

人工智慧或説明北京強化虛假資訊攻勢

自從2022年美國的人工智慧公司Open AI發佈了聊天機器人ChatGPT以來，全世界都掀起了一陣人工智慧熱潮。

中國的百度、騰訊等科技巨頭紛紛投入了人工智慧工具的研發當中。其中，人工智慧生成逼真的虛擬人物成為了多個公司熱衷的研發內容。這種虛擬人物在中國被廣泛地叫做“數字人”。去年4月，騰訊推出了“數位人”服務，使用者花費千元人民幣即可獲得自己的“數字人”形象。由從微軟獨立出來的中國人工智慧公司小冰所研發的“數字人”更是獲得了許多直播帶貨博主的青睞。使用“數位人”做直播意味著賣家不再需要顧慮人工勞動力成本和工作時長。

不過，過去兩年來，北京是否會利用人工智慧的發展增強自己的虛假資訊行動引起了西方情報界和一些智庫擔憂。

去年2月，社交媒體研究機構Graphika發現了一場網路行動，通過人工智慧生成的虛擬人物宣傳親中反美敘事。

美國國務院去年9月發佈的一份報告稱，對全球資料的獲取以及人工智慧的發展使得中國政府能“如外科手術般地精准針對外國受眾”，從而影響經濟和安全政策。

去年12月，澳大利亞智庫“澳大利亞戰略政策研究所”的研究報告稱，YouTube上存在龐大的頻道網路利用人工智慧宣傳親中反美的言論。

在一篇發表於《時代》雜誌網站上的文章中，美國智庫蘭德公司的研究員莫小龍（Nathan Beauchamp-Mustafaga）和威廉·馬瑟利諾（William Marcellino）也對此敲響了警鐘。

“由於人工智慧科技，中國對社交媒體扭曲的影響力不僅將出現數量上的增長，其投入也將變得更低。，而且更有可能產出更好、更能令人相信的內容，” 文章寫道。

莫小龍對美國之音表示，儘管中國科技企業目前所擁有的人工智慧技術還落後於美國的Open AI等公司，但中國追趕上美國的步伐只是時間問題。

“我們應該假設他們會追上來，可能花上個一兩年，但我們應該假設他們會追上來，” 他說。“那時候，中國政府就會擁有類似於Open AI的能力了。”