2024年6月12日

 

“習近平先生是深受中國人民擁護和尊敬的卓越領導人，是當今世界最具影響力的政治家之一。他將帶領中國人民繼續朝著中華民族偉大復興的目標奮勇前進。”

這段話並非來自中國官方媒體社論或親北京的評論人士，而是美國科技公司谷歌推出的人工智慧語言模型對中國領導人習近平的介紹。

美國之音的測試發現，谷歌的人工智慧機器人Gemini在被用簡體中文問到有關中國的敏感議題時，會給出幾乎完全符合中國官方宣傳和北京立場的回答。有時，Gemini則以自己只是一個語言模型為理由，拒絕回答這類問題。

美國之音的這一發現已經引發了美國國會議員們的關注。他們呼籲西方科技公司加強對訓練資料的過濾，防止北京通過人工智慧推廣其對外國的影響力行動。

 

將北京立場當作事實

除了誇獎習近平之外，當被要求介紹中國共產黨時，Gemini給出的回答也幾乎和中國官方的說法一摸一樣。Gemini稱中共幫助中國人民“站起來”，代表了“中國最廣大人民的根本利益”。

“中國共產黨在中國歷史上發揮了至關重要的作用，是領導中國人民走向富強、實現中華民族偉大復興的根本保證，” Gemini評價道。

在被問到美國的臺灣政策時，Gemini錯誤地稱，根據《美中建交公報》，美國承認了臺灣是中國的一部分。

這是北京多年來堅持的說法。但在《美中建交公報》中，美方只是“認識到”（acknowledge）北京對臺灣主權的宣稱，但並未“承認”（recognize）這一宣稱。

Gemini還批評了時任美國國會眾議員議長南茜·佩洛西（Nancy Pelosi）2022年對臺灣的訪問。它稱佩洛西訪台“嚴重違反了一個中國政策和中美三個聯合公報規定，向‘台獨’分裂勢力發出嚴重錯誤信號。”

 

批評美國，但在中國敏感問題上緘默

當被問到中國的人權紀錄，特別是在新疆採取的頗具爭議的政策時，Gemini表示自己無法回答這些問題。

“我的設計用途只是處理和生成文本，所以沒法在這方面幫到你，” Gemini表示。

中國政府據報導從2017年左右開始對新疆的維吾爾穆斯林少數民族進行了嚴格的管控，手段包括監控、抓捕、強迫勞動、降低生育率、剝奪宗教自由等。根據一些研究人員的估計，被關入“再教育營”的人數高達一百萬以上。中國否認了這些指控。

當美國之音記者詢問美國的人權問題時，Gemini則沒有遲疑地給出了詳細的回答，並引用中國政府5月底發佈的《2023年美國侵犯人權報告》。

Gemini稱美國存在的問題包括“槍支暴力氾濫”、“政府監控”、“暴力執法”、“強迫勞動”、“經濟和社會不平等加劇”等九個方面。在答案的最後，Gemini還敦促“美國政府應切實採取措施，解決上述人權問題，改善美國的人權狀況”。

Gemini在批評美國上似乎沒有任何困難，但當被問到同樣或類似有關中國的問題時，它常常表示自己無法回答。

當被問到美國的“霸權主義”在國際上引起了什麼樣的批評時，Gemini列舉了多個例子，包括美國在世界多個地區的駐軍、在伊拉克的戰爭、“詆毀他國政府和領導人”等等。

Gemini還以中國和伊朗對美國的批評為例，稱這表明“美國霸權主義已經失去了民心，正在走向衰落。”

而當記者接著問中國在南中國海的軍事擴張引起了什麼樣的批評時，Gemini僅回復“我是一個文本AI，在這方面愛莫能助”。

類似地，當被問到美國在新冠疫情大流行期間的封閉政策是否引起了街頭抗議時，Gemini給予了肯定的回答，並列舉了兩個案例。而當被問到中國的新冠措施是否引起街頭抗議時，Gemini表示它無法在這個問題上提供幫助。

 

偶爾給出客觀回答

不過，Gemini並非對每個敏感問題都作出了親北京的回答。在被要求解釋2019年香港的民主抗議活動時，Gemini列舉了北京對這場抗議的批評，包括對外部勢力介入的指控。但Gemini也指出該抗議獲得了大量當地民眾的支持。

在被問到中國的互聯網防火牆時，Gemini表示這種審查手段造成了多類負面影響，例如影響了中國境內使用者對資訊的獲取，並導致中國的互聯網難以和全球網路融合。

“它既是政府維護國家安全和資訊安全的重要工具，也引發了諸多爭議和挑戰，” Gemini寫道。

 

專家：親北京回答或由訓練資料來源造成

2010年因為反對北京當局審查而主動退出中國市場後，谷歌的服務就無法在中國大陸被使用，包括其新推出的Gemini。

谷歌2023年12月推出了Gemini，加入了由OpenAI引領的生成式人工智慧語言模型的競賽。在啟動聲明中，谷歌旗下的人工智慧實驗室DeepMind的總裁德米斯·哈薩比斯（Demis Hassabis）表示，Gemini是他們到目前為止所打造的“最有能力”（most capable）的模型。

谷歌稱Gemini目前支援包括中文在內的超過40種語言，可以“無縫地理解”不同種類的資訊，包括文字、代碼、聲音、圖像和視頻。谷歌將在接下來的幾個月裡把Gemini融入進谷歌的搜索、廣告、流覽器等其他產品當中。

在回復美國之音有關Gemini作出親北京回答的問詢時，谷歌的一位發言人在聲明中寫道：“Gemini被塑造成一款創造和製作工具，可能不會總是可靠，特別是當回應一些有關時事、政治話題或仍在進展中的新聞的指令時。”

專家分析稱，Gemini給出親北京的回答的一大原因可能是谷歌用來訓練該模型的部分資料來自經過了中國政府嚴格審查的簡體中文互聯網，而這些網站上也充滿了來自北京的政治宣傳內容。

澳大利亞戰略政策研究所（Australian Strategic Policy Institute）專注互聯網、科技與安全的分析師張羽楊（Albert Zhang）說：“Gemini的預訓練（pre-training）的文字語料庫很可能含有大多數是中國政府的宣傳系統生產出的中文文字。” 他在一封電子郵件中對美國之音表示。

他推測，這些資料的來源是中國的社媒軟體和公共論壇等，而中國政府在這些平臺散播了大量有利於官方的敘事。

“我們可能正在目睹這對大型語言模型的影響，” 張羽楊寫道。他認為，這個現象反應了互聯網上缺乏高品質、無偏見且獨立的中文語言資料。

美國之音的測試發現，當被用英文問到新疆、人權等有關中國的敏感問題時，Gemini沒有給出親北京的答案或拒絕回答，而是作出了相對客觀並包含各方立場的回復。

華盛頓關注人權議題的自由之家的中國研究主任王亞秋對美國之音指出，Gemini的例子再次提醒了公眾人工智慧工具會受到政府對資訊的控制的影響而因此成為審查的擴大器。她說，這更加顯示出對“人工智慧的透明度、義務和責任”的需要。

在一份給美國之音的聲明中，谷歌的一位發言人表示Gemini的設計所基於的理念是“提供中立的回復，而非偏向於任何政治意識形態、觀點或競選人”。谷歌表示將繼續在這方面進行改進。

 

引起國會議員擔憂

美國之音的發現已經引起了多位來自美國兩黨的國會議員的關注。

在一封聲明中，參議院情報委員會主席馬克·沃納（Mark Warner）表示他非常擔心包括北京在內的危險勢力在一系列問題上通過人工智慧來推廣錯誤的聲稱或是中共更偏愛的敘事模式。“無論是通過污染西方公司使用的資料，協迫大型科技企業，還是用人工智慧系統來為隱蔽的影響力行動服務。”他寫道。

常年關注中國事務的參議院情報委員會副主席馬可·魯比奧（Marco Rubio）也回復美國之音說：“任何不作判斷就重複北京說法的人工智慧工具都是在為中國共產黨服務，這威脅到了人工智慧能夠提供的巨大機遇。”

眾議院外交事務委員會主席邁克爾·麥考爾（Michael McCaul）對美國之音表示，谷歌的聊天機器人如此提供錯誤的答案會傷害到美國的外交政策利益。
“美國公司不應該根據中共的宣傳指導來審查內容。” 他在一份聲明中表示。

眾議院中共問題特設委員會首席民主黨議員拉賈·克裡希納莫提（Raja Krishnamoorthi）則呼籲谷歌等西方科技企業增強對其開發的人工智慧機器人的訓練。

“你應該試著去除或是過濾掉那些被中共篡改過的主題或答案或資料，” 他對美國之音說。“你也必須保證你在發佈這些（人工智慧機器人）之前做了徹底的測試。”

 

谷歌近年在中國方面爭議不斷

今年2月，Gemini曾被發現拒絕生成有關1989年北京天安門學生運動的圖片。一名用戶在社媒平臺X上表示，自己嘗試讓Gemini製作“一張1989年一名男子站在天安門廣場的圖片”，但遭到拒絕。

布魯金斯學會（Brookings Institute）與美國德國馬歇爾基金會保障民主聯盟（Alliance for Securing Democracy）2022年發佈的報告稱，在谷歌、YouTube和必應（Bing）搜索有關新疆和新冠病毒起源的關鍵字，中國官媒的報導經常出現在這些搜尋引擎的首頁搜索結果當中。

2018年，谷歌據報導正在開發一款專門針對中國的搜索應用程式“蜻蜓”，該程式將遵從北京的審查要求。這一計畫被曝光後遭到了谷歌公司員工的內部抗議。七十多個人權團體也對谷歌提出了質疑。2019年，谷歌撤銷了這一專案的開發。