2023年6月1日

 

科學家和高級科技公司官員警告說,人工智慧可能會導致人類的終結。對此，美國主要網路安全機構負責人向他們發出了一個資訊：採取行動。

“如果你真的認為這些能力會導致人類滅絕，那麼，讓我們團結起來做點什麼，”美國網路安全和基礎設施安全局（Cybersecurity and Infrastructure Security Agency）局長簡·伊斯特利（Jen Easterly）週三（5月31日） 告訴聽眾們。

“當我們試圖建立一個監管框架時，請考慮自我監管，”她在華盛頓舉行的Axios News Shapers活動中說。“想想你能做些什麼來減緩這一進度。”

就在伊斯特利發表上述評論的前一天，350多名研究人員和技術高管就人工智慧（AI）的危險發出了一句話的警告。

“減輕人工智慧滅絕人類風險應該與流行病和核戰爭等其他社會規模的風險一起成為全球優先事項，”他們在人工智慧安全中心（Center for AI Safety）網站上的一篇文章中說。

簽署該警告的人包括Chat GPT的母公司“開放人工智慧”（OpenAI）的聯合創始人兼首席執行官、微軟的首席技術官、穀歌人工智慧研究實驗室的首席執行官和有時被稱為“人工智慧教父”的傑佛瑞·辛頓（Geoffrey Hinton）。

值得注意的是，辛頓在五月初辭去了他在穀歌的工作，專注於警告其他人人工智慧的危險。

美國政府官員，如網路安全和基礎設施安全局局長伊斯特利，也一直在警告人工智慧帶來的危險。

“人工智慧將成為我們這個時代最強大的能力，”伊斯特利在本月早些時候的一次演講中對範德比爾特大學（Vanderbilt University）的學生們說。

“我相信它也將成為我們這個時代最強大的武器，”她補充說。“雖然一個人會使用這項技術來計畫一場晚宴，但另一個人或許將使用這種能力來計畫網路攻擊或恐怖襲擊。”

伊斯特利此前曾呼籲對人工智慧技術和產品進行“智慧監管”，並警告說，與其他技術一樣，科技公司過於專注於將人工智慧產品快速推向市場，而沒有對安全性給予足夠的關注。

5月初時，她說美國網路安全和基礎設施安全局已經與科技公司就人工智慧的發展方向進行了討論。

今年4月，網路安全和基礎設施安全局的上級機構--國土安全部發起了自己的倡議，以應對人工智慧帶來的危險。

“我們必須解決人工智慧將徹底改變威脅格局並增強我們擁有的工具庫的多種方式，以成功地應對這些威脅，”國土安全部部長亞曆杭德羅·馬約卡斯（Alejandro Mayorkas）當時表示。