2023年12月9日

 

歐盟執委會、歐洲議會和27個成員國談判代表週五（12月8日）就世界上第一個人工智慧（AI）監管規則達成協議，包括如何限制政府在生物識別工具上的AI運用、以及如何管理ChatGPT這類生成式AI系統。

“歷史性一刻！”經過逾33小時的馬拉松談判，負責歐盟內部市場和產業政策的執行專員蒂埃裡·佈雷頓（Thierry Breton）在週五午夜前宣佈，歐盟成為第一個為AI使用制定明確規則的大陸。

佈雷頓在X上表示，這項AI法案不只是一本規則手冊，這是歐盟新創公司和研究人員，在值得信賴的AI方面引領全球競賽的啟動平臺。

該立法草案仍需得到歐盟成員國和議會的正式批准。但這項協議標誌著，西方世界向AI政策邁出關鍵一步。當前美國國會並未對AI技術採取有意義行動，因此歐盟的立法將為這項快速發展的技術監管定下基調。

歐盟的目標是在亞洲以外的地區，首次頒佈有關AI技術的嚴格監管措施。

根據協定，ChatGPT和通用人工智慧系統（GPAI）等基礎模型在上市前必須遵守透明度義務，包括擬定技術檔、遵守歐盟版權法以及傳播有關培訓內容的詳細摘要。

具有系統性風險的高影響力基礎模型則必須進行模型評估，評估和減輕系統性風險，進行對抗性測試，向歐盟委員會報告嚴重事件，確保網路安全，並報告其能源效率等。

協定限制政府只能在公共場所實施即時生物特徵監視，例如特定犯罪的受害者、預防可預見的威脅（如恐怖襲擊）以及尋找涉及最嚴重犯罪的嫌疑人。該協議還禁止運用AI進行認知行為操縱，以及按生物識別敏感特徵推斷人們的政治或宗教信仰，性取向或種族。

消費者將有權提出投訴並獲得有意義的解釋，而違規罰款將從750萬歐元（約810萬美元）或營業額的1.5%到3500萬歐元（約3780萬美元）或全球營業額的7%不等。

佈雷頓在週六的一份聲明中說，他們花了很多時間，在充分利用人工智慧潛力支援執法和保護公民基本權利之間找到適當平衡，“我們不希望在歐洲進行任何大規模監控”。

民間團體意見不一。商業與科技團體DigitalEurope總幹事塞西莉亞·邦菲爾德-達爾（Cecilia Bonefeld-Dahl）批評，這些規則是對企業的又一負擔，“我們達成了一項協議，但代價是什麼？”

代表科技業遊說的電腦和通信行業協會（CCIA）歐洲辦事處負責人丹尼爾·弗裡德蘭德（Daniel Friedlaender）說：“今天的政治協議標誌著關於《人工智慧法案》關鍵工作的開始，但仍缺乏細節。”

倡議隱私權保護的歐洲數位權（European Digital Rights）提出批判，該組織的高級政策顧問艾拉·雅各斯卡（Ella Jakubowska）表示，這是歐盟首次採取措施，讓即時公共面部識別合法化，“儘管議會努力限制損害，但關於生物識別監控和特徵分析的配套方案充其量只是不冷不熱”。

一旦正式批准，該立法預計最快將於明年初生效，並應在兩年後實施。