2024年3月27日

 

聯合國大會3月21日以共識方式通過了一項美國牽頭的倡議，旨在管理人工智慧（AI）的風險，同時利用其優勢。這是聯大通過的首項此類決議。

美國駐聯合國大使琳達·湯瑪斯-格林菲爾德（Linda Thomas-Greenfield）當天的一番話應該道出了世界對AI的複雜情緒。她說：“今天，聯合國和人工智慧終於交匯在一起，我們有機會也有責任選擇作為一個團結的全球社區來治理這項技術，而不是讓它治理我們。”

但在此之前，美國、歐洲、中國和其他躋身AI熱潮的國家已經在試圖通過政策和立法規避AI的風險因素，儘管政府監管的速度總是難以追上這一新科技的發展速度。

2024年裡，世界將忙著思考AI的監管。美國之音為你簡單梳理一下世界各國為保障AI安全迄今已做的監管努力。

 

為何需要AI立法？

AI正只手掀起人類“第四次工業革命”--新聞寫作、新聞主持、藝術創作、起草法案、金融分析、病情診斷、腦部手術、賽事預測、無人駕駛、核反應爐、精尖武器、作戰指揮……以及在2023年爆紅的生成式AI聊天機器人ChatGPT。

“它比火或電更加影響深遠”，穀歌母公司Alphabet首席執行官桑德爾·皮查伊（Sundar Pichai）如此描述人工智慧（AI）。

AI為人類開拓新機會的每一步令人驚喜，然而，AI行業領袖們在去年紛紛警告，AI技術將來可能威脅到人類的生存，應與大流行病及核戰爭一同視為人類社會面臨的風險。AI將拯救人類，還是毀滅人類？

AI帶來的風險正在顯現：駭客攻擊，隱私和個人權益侵犯，替代人類工作致失業問題，真假難辨的錯誤及虛假資訊迅速傳播、社會偏見和歧視不斷加深、社會不公正擴大，以及在軍事、醫療、司法領域使用AI帶來的倫理困境，等等。

AI創建和傳播虛假圖像和視頻的例子層出不窮。最近引發廣泛關注的事件包括AI生成的美國歌星泰勒·斯威夫特（Taylor Swift）露骨照片在網路上瘋傳，以及AI生成的一張五角大樓附近發生爆炸的虛假照片在社媒上瘋傳，導致美國股市一度聞風跳水。

“在監管技術方面，政府有低估該技術新特性的記錄，” 美國科技公司Unanimous AI首席執行官路易士·羅森伯格（Louis Rosenberg）此前告訴美國之音。

 

歐盟如何監管AI？

歐洲議會3月13日通過了一項被輿論普遍視為迄今全球最全面的AI立法，預計5月生效。法案引入嚴格的透明度要求，並要求科技公司對高性能AI模型的應用進行風險評估。

• 法案將AI技術分為“不可接受”、“高”、“中”和“低”四個風險等級。風險級別越高，相關科技企業需遵守的要求就越嚴格。
• 該法案禁止某些威脅公民權利的AI應用，比如無目標抓取面部圖像以擴建面部識別資料庫，在工作場所和校園識別情緒，對求職申請進行分類，預測性警務等等
• 法案要求高性能AI模型的開發商--比如創建ChatGPT的生成式AI領軍機構OpenAI--需對這些AI模型進行最先進的安全評估。一旦模型發生嚴重事故，須上報監管部門。法案也規定這類AI開發商必須報告它們的能源消耗，實施潛在風險緩解措施和針對駭客的網路安全保護措施。
• 法案要求對“深度合成”（Deep Fake）的圖像、視頻和音訊進行明確標記。深度合成即通過AI生成和操縱看似真實的圖像、視頻和音訊。
• 違反規定的公司將面臨最高約合3770萬美元或該公司全球營收7%的罰款。

該法案適用於所有在歐盟市場上的AI產品，不管其開發地在哪裡。在“布魯塞爾效應”下，歐盟的AI標準可能影響全球。《華爾街日報》報導說：“因為大型AI公司不太可能願意放棄進入擁有約4.48億人口的歐盟。其他司法管轄區也可能將該新法作為其AI法規的範本，從而產生連鎖反應。”

 

美國如何監管AI？

與歐洲不同，美國至今還沒有專門針對AI的聯邦法規。但特定行業的AI應用受該行業現行法律法規的約束。比如，美國食品和藥物管理局（FDA）監管AI醫療，聯邦貿易委員會（FTC）監管AI驅動的產品和服務，交通部監管無人駕駛汽車，等等。

• 拜登總統10月30日簽署了一項監管AI的行政命令，設定了國家安全、消費者隱私和公民權利保護、公平競爭的標準，建立一套早期的AI“護欄”，以便後期通過立法和全球協定進一步落實規範。其中，行政令要求科技公司在開發高風險AI模型時通知政府，並通過“紅隊”（Red Team）測試評估AI模型的安全風險。
• 美國國會已開始針對AI立法採取更多動作，對建構一套監管機制非常感興趣。拜登在此前的國情諮文演講中也呼籲國會緊急行動起來，立法監管人工智慧。
  • 路易斯安那州共和黨參議員約翰·甘迺迪（John Kennedy）與夏威夷州民主黨參議員布萊恩·沙茨（Brian Schatz）合作提出《AI標識法案》（AI Labeling Act），要求科技公司對AI生成的內容進行標識、並告知消費者相關AI科技背後的所有者身份。
  • 密蘇裡州共和黨參議員喬什·霍利（Josh Hawley）和康涅狄格州民主黨參議員理查·布盧門撒爾（Richard Blumenthal）合作啟動一項AI立法框架，尋求建立一個專門監管AI的聯邦機構，要求科技企業在推出ChatGPT這樣級別的大語言模型之前需獲得許可，並對侵犯隱私和民權的科技公司問責。
  • 也有一些針對特定領域AI使用的提案：其中一項尋求禁止允許 AI 或沒有人類控制的自動化系統發射核武器。另一項將要求政治競選廣告中人工智慧生成的圖像和聲音被明確標注。
  • 彭博社援引美國各州議會的資料包道稱，2023年，美國至少有25個州考慮了與AI相關的立法，其中15個州通過了相關法律或決議。擬議的立法旨在限制在就業、保險決策、醫療保健、選舉計票和公共場合的面部識別等方面使用人工智慧。

“對美國來說，最有可能的結果是由行政部門的行動自下而上地拼湊出一套法規，” 美國戰略與國際研究中心（CSIS）戰略技術項目高級顧問比爾·懷曼（Bill Whyman）寫道。“與歐洲不同，美國不太可能在未來幾年通過一項廣泛的全國性的人工智慧立法。成功的相關立法可能集中在爭議較少和有針對性的措施上，比如對人工智慧研究的資助和人工智慧兒童安全。”

“美國式的監管通常沒有歐洲和亞洲那麼嚴格。長期以來，傾向于自由放任或最低限度監管是美國制度的特點，”紐約大學媒體技術教授W·羅素·紐曼（W. Russell Neuman）此前接受美國之音採訪時說。“這是美國聯邦和州對商業的態度的特點，即對監管持謹慎態度，擔心監管會比監管機構最初的擔心的更糟糕。”

布魯金斯學會（Brookings Institution）人工智慧和新興科技倡議專案政策總監潔西嘉·布蘭特（Jessica Brandt）此前對美國之音說：“自由民主國家面臨的挑戰是，既要確保人工智慧以負責任的方式發展和部署，也要支持一個能吸引人才和投資的有活力的創新生態系統。”

 

中國如何監管AI？

去年8 15 日，中國的《生成式人工智慧服務管理暫行辦法》正式施行。該法被認為是全球首部生成式 AI 立法。當中24條法規的監管物件是創建圖像、視頻、文本和其他內容的生成式AI服務，比如ChatGPT。法規強調開發人員對他們創建的AI模型所輸出的內容“負有責任”。

• 法規規定，“提供具有輿論屬性或者社會動員能力的生成式人工智慧服務的”科技公司需對AI模型進行安全評估，並將其演算法在監管機構備案。
• 通過AI生成的內容必須進行明確標注。
• 科技公司須確保其AI模型生成的文字和圖片是缺准、可靠的，獲取資料的來源是合法的。
• 法規提出了尊重資料隱私、保護智慧財產權和公民權利方面的規定。
• 但與大多數其他國家不同的是，該法規規定生成式AI輸出的內容必須反映“社會主義核心價值觀”，遵守政府的審查規定，避免詆毀中國領導人或觸碰政治紅線， “不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一”的內容。

儘管中國在AI技術創新方面仍落後於美國，但在AI監管立法方面被廣泛視為先行者之一。這部專門針對生成式AI的立法建立在更早前出臺的深度合成和演算法推薦相關的人工智慧法規基礎上--

• 《互聯網資訊服務深度合成管理規定》於2023年1月10日生效。其中一項要求就是向網信辦提交深度合成演算法進行備案。
• 《互聯網資訊服務演算法推薦管理規定》於2022年3月1日生效，規範了使用演算法推薦技術在中國境內提供網路服務的行為。
• 中國互聯網監管機構也在去年8月宣佈了旨在約束人臉識別技術應用的規則草案。草案在限制人臉識別技術使用的同時又為國家安全相關的使用開了許多綠燈。

AI治理的未來需要全世界的共同努力。今年5月，聯合國國際電信聯盟將主辦人工智慧向善峰會；今年9月，聯合國未來峰會將尋求通過《全球數位契約》。