2024年5月20日

 

韓國和英國將於本星期將在首爾共同主辦第二屆全球人工智慧安全峰會（AI Safety Summit）。自去年11月首屆人工智慧峰會以來，AI的創新步伐驚人，各國政府正努力應對這日益增長的風險。

對於人工智慧可能如何影響人類存在激烈分歧之下，英國首相裡希·蘇納克（Rishi Sunak）和韓國總統尹錫悅將於星期二（5月21日）主持一場虛擬峰會，呼籲加強對人工智慧的監管。

蘇納克和尹錫悅在英國《i（資訊）報》和韓國《中央日報》發表的聯合署名文章“只有全球人工智慧標準才能阻止逐底競爭（race to the bottom）”中表示，“儘管在塑造全球人工智慧治理方面已做出積極努力，但仍然存在顯著的差距”。

去年11月的會議被稱為“人工智慧安全峰會”，但自那以後挑戰的範圍不斷擴大。據峰會網站，星期二開始的會議被稱為“人工智慧首爾峰會”（AI Seoul Summit），並將討論3個優先事項：人工智慧安全、創新和包容性。

5月17日發佈的一份來自全球30多個國家專家支援的人工智慧安全報告稱，“可能會出現大規模勞動力市場的影響、人工智慧驅動的駭客或生物攻擊，以及社會可能會失去對通用人工智慧的控制等風險”，儘管這些可能性仍存在爭議，這份報告稱：“但是......社會和政府的決定將決定人工智慧的未來。”

這份報告指出了技術的快速發展所帶來的風險不斷擴大的趨勢，不僅僅是人類的生存風險，還包括人工智慧不平等、資料稀缺、版權材料的使用以及人工智慧資料中心使用大量電力對環境造成的影響。

在去年11月在英國主辦的峰會上，特斯拉（Tesla）首席執行官埃隆·馬斯克（Elon Musk）和OpenAI的首席執行官山姆·奧特曼（Sam Altman）與一些對他們最激烈的批評者進行了接觸，而中國則與美國和其他共20多個國家共同簽署了一份關於共同治理人工智慧的《布萊切利宣言》（Bletchley Declaration），同意共同努力遏制人工智慧快速發展所帶來的潛在“災難性”風險。

今年3月，聯合國大會通過了關於人工智慧的首份決議，支持國際努力確保這一強大的新技術惠及所有國家，尊重人權，並確保其“安全、可靠和值得信賴”。

本月早些時候，美國和中國在日內瓦就人工智慧舉行了首次高層會談，討論如何應對快速發展的技術風險，並制定共同的標準來管理。美國官員對中國“濫用人工智慧”提出擔憂，而中國代表則譴責美國對人工智慧的“限制和壓力”。

此次還不清楚誰將參與星期二的虛擬峰會，而星期三由英國和韓國部長主持的現場會議也尚未確定參與者。

根據活動網站的資訊，星期三在韓國主辦的另一場人工智慧論壇，預計與會者包括AI安全和研究公司Anthropic的共同創辦人傑克·克拉克（Jack Clark），以及來自OpenAI、Google DeepMind、微軟（Microsoft）、元宇宙（Meta）和國際商業機器公司（IBM）等公司的高管。