2024年2月15日

 

美國微軟公司在週三公佈的一份報告中說，來自俄羅斯、中國、伊朗和朝鮮的由國家支持的駭客一直在使用微軟支持的OpenAI等工具來改進他們的技能並欺騙他們的目標。

路透社2月14日報導說，微軟在報告中說，微軟已查出與俄羅斯軍方情報機構、伊朗革命衛隊以及與政府有關聯的中國和朝鮮駭客組織試圖利用 ChatGPT等大型語言模型（LLM,Large Language Model）來完善他們的網路攻擊。

這些大型語言模式人工智慧工具吸取海量文字來生成人聲回應。

微軟公司在宣佈推出對國家支援的駭客組織使用其AI產品的全面禁令的同時，披露了這些駭客組織利用AI改進網路攻擊能力的最新發現。

微軟客戶安全副總裁湯姆·伯特（Tom Burt）在該報告發佈前對路透社說，“不論是否有違反法律或任何服務條款，我們就是不想讓我們辨識出的威脅操手-我們跟蹤和瞭解的各類威脅操手--獲取這個技術。”

報導說，俄羅斯、朝鮮和伊朗的外交官沒有立即回應對微軟指控置評的請求。中國駐美大使館發言人劉鵬宇 (Liu Pengyu) 稱，反對針對中國的毫無根據的抹黑和指控，中國推動安全、可靠及可控制地使用AI技術來提升整個人類的福祉。

有關這些國家支援的駭客被捕捉到使用AI幫助提升這些國家間諜能力的指控突顯出有關AI技術快速擴散及可能被濫用的憂慮。

西方資深網路安全官員從去年就一直在警告，流氓操手在濫用這些工具，不過，在微軟做出該披露之前，具體的證據不多。

OpenAI負責網路安全威脅情報的鮑勃·羅特斯泰德（Bob Rotsted）說，“這是首次有AI公司出面公開討論網路威脅操手使用AI技術。”

OpenAI和微軟將這些駭客使用它們的AI工具描述成是處於“早期”及“漸進的”。

微軟客戶安全副總裁湯姆·伯特說，兩家公司都沒有看到這些網路間諜獲得任何突破。

該報告說，這些駭客組織使用這些大型語言模式的方式不同。

微軟說，據稱為俄羅斯軍方間諜機構“GRU”效力的駭客使用這些工具研究不同的可能與在烏克蘭常規作戰中有關的衛星和雷達技術。

朝鮮的駭客使用這些工具來生成可能用於針對地區專家的魚叉式網路釣魚（Spear phishing）內容。

伊朗駭客也依賴這些工具生成更令人信服的網路釣魚電子郵件，其中一個實例是生成一個試圖引誘“知名女權活動人士”進入一個陷阱網站。

微軟這個軟體巨頭還說，中國國家支援的駭客也用這些大型語言模式做測試，試圖就敵對情報機構、網路安全問題以及“知名個人”進行詢問。

美聯社說，微軟向OpenAI投資了幾十億美元。微軟表示，一個叫“水熊貓”的中國高級持續性威脅 (APT) 網路間諜組織與這些大型語言模式進行過互動，表明該組織進行大型語言模型如何能加強它們技術操作的有限探索。該組織針對的目標是從法國到馬來西亞的廣泛的產業、高等教育及政府機構。

美國網路安全和基礎設施安全局局長珍·伊斯特利（Jen Easterly）去年4月在美國國會作證時表示，“有兩個劃時代的威脅和挑戰。一個是中國，另一個是人工智慧。”

她強調，美國需要確保AI技術基於安全而建。

對ChatGPT在2022年11月的公開發行，以及隨後的競爭者穀歌和Meta推出的AI產品的批評人士說，考慮到安全基本上是在AI開發過程中的滯後考慮，AI開發是非常不負責任的操之過急。