2025年2月 22 日

 

美國人工智慧公司OpenAI星期五(2月21日)表示，已發現中國利用該公司的人工智慧工具ChatGPT助長在海外的影響力活動，包括生成西班牙語反美假資訊；中國也以AI建立監視工具，即時搜集西方國家社交媒體的反中帖子。

OpenAI星期五發佈的安全威脅報告稱，該公司發現有中國團隊研發了在社交媒體搜集反中帖子的工具。OpenAI將該工具命名為“同行審閱”(Peer Review)，因為有研發者利用ChatGPT為其程式碼除錯。

此外，還有用戶以ChatGPT生成行銷該工具的宣傳文章，宣稱可將搜集的反中帖子報告送交中國安全部門。

《紐約時報》報導，OpenAI首席研究員本‧尼默(Ben Nimmo)表示，這是該公司首次發現這種AI監控工具。OpenAI已封鎖相關用戶帳號，因其已違反“禁止使用AI進行通訊監視或未經授權個人監控”的公司政策。

尼默及其團隊相信，該監控工具是以Meta公司的開源大型語言模型Llama為基礎。

 

用AI生成帖子攻擊蔡霞、翻譯反美文章

OpenAI也發現，有中國用戶利用ChatGPT生成外宣內容，包括用於攻擊中國異議人士蔡霞的英文帖子，以及西班牙文的反美新聞報導。多篇文章都登上了拉丁美洲的新聞網站，其中某些簡短評論也出現在X平臺，

OpenAI將這項AI外宣行動稱為“資助煽動”(Sponsored Discontent)。尼默表示，這也是OpenAI第一次發現中國外宣活動將長篇文章翻譯為西班牙語後，發佈在拉美媒體。

他說：“如果我們不去瞭解他們使用AI的情況，就無法將那些(X平臺)推文與網路新聞文章聯繫起來。”

 

已移除多個中國、朝鮮惡意活動帳號

OpenAI自去年開始定期發佈威脅報告。在星期五發佈的最新報告中，OpenAI表示已移除多個來自中國與朝鮮的帳號，

該公司表示，這些帳號利用ChatGPT從事惡意活動，而獨裁政權可能通過這些活動對付美國或本國人民。

OpenAI也表示是利用AI工具偵測到這些惡意活動。報告並未說明移除帳號的數量，也未說明相關惡意活動的發生時間。

報告稱，朝鮮的惡意活動者利用AI生成虛構求職者的履歷和個人檔案，通過欺詐手段向西方企業求職。

另一組ChatGPT帳號則與一樁柬埔寨的“殺豬盤”詐騙活動有關，它們利用AI翻譯及生成帖子和評論，發佈在X平臺和Facebook等社交媒體。

美國政府已對中國涉及使用AI壓迫人民、散播假資訊、以及危害美國及其盟邦的國家安全表達關切。

OpenAI研發的ChatGPT是目前全球用戶最多的AI聊天機器人，每星期活躍用戶已超過四億人。該公司目前正商談以3,000億美元的估值籌集最多400億美元資金，可能創下私營企業單輪融資的紀錄。