人類是製造工具的物種,但我們能控制自己創造的工具嗎?當奧本海默(Robert Oppenheimer)等物理學家在1940年代,開發出第一種核裂變武器時,他們擔心自己的發明可能會毀滅人類。雖說到目前為止仍未發生這種狀況,但管控核武器的挑戰卻一直存在。
如今許多科學家將人工智能(AI)——能夠讓機器執行通常需要人類智慧才能完成的任務的演算法和軟件,視為一種同樣具有變革性的工具。正如以往那些通用技術,AI具備巨大的行善與作惡潛力。在癌症研究中,它只需數分鐘便能對一批研究案例進行梳理並總結,而同樣的工作人類團隊需要花上數個月才能完成。它還能可靠地預測蛋白質折疊的模式,而在這方面人類研究人員則得耗時數年。
但AI也降低了那些思想行為怪異者、恐怖分子和其他惡意行為者造成傷害的成本和門檻。正如蘭德公司(RAND)近期發表的一項研究所警告的那樣,「復活一種類似天花的危險病毒的邊際成本,可能只需10萬美元,而開發一種複雜對應疫苗或許要花費10億美元以上。」
此外,一些專家擔心,先進的AI將比人類聰明得多,以至掌握控制權的將是它而不是我們。關於需要多長時間才能開發出這種超級智慧型機器(名為人工通用智慧),各界的估算從數年至數十年不等。但無論如何,當今這個狹義AI所帶來不斷增長的風險,已經需要我們給予更多關注了。
40年來,由前政府官員、學者、商界人士和記者組成的阿斯彭戰略小組,每年夏天都會集中研究一個重大國家安全問題。過往的會議討論了核武器、網絡攻擊和中國崛起等主題,而今年我們則把焦點放在AI對國家安全的影響上,檢視了其益處和風險。
它能提供的其中一些益處是,可以更好地梳理海量情報資料,強化早期預警系統,改進複雜的物流體系,並檢查電腦代碼以提高網絡安全。但它也會催生一些重大風險,例如自主式武器的進步、演算法程式設計中的意外錯誤,以及可能削弱網絡安全的敵對AI。
中國針對更大範圍的AI軍備競賽進行了大量投資,而且還擁有一些結構性優勢。AI的3個關鍵資源是訓練模型的資料、開發演算法的高智商工程師,以及運行它們的計算能力。中國在資料獲取方面幾乎沒有法律或隱私限制(儘管意識形態限制了某些資料集),且擁有大量聰明的年輕工程師,而它最為落後於美國的領域。則是為AI提供計算能力的先進微處理晶片。
美國的出口管制限制了中國獲取這些前沿晶片,以及製造它們的昂貴荷蘭光刻機的渠道。阿斯彭的專家們一致認為,中國在這方面落後美國一至兩年,但情況隨時可能發生變化。儘管總統拜登和習近平去年秋天會面時同意,就AI展開雙邊討論,但專家們對AI軍控的前景並不感到樂觀。
自主式武器則構成了特別嚴重的威脅。在聯合國十多年的外交努力下,各國仍未能就禁止自主式致命武器達成協議。國際人道法要求軍隊區別對待武裝戰鬥人員和平民,而五角大樓長期以來要求,在發射武器之前必須有人參與決策環節。但在某些情況下,例如防禦來襲導彈時,並沒有足夠時間留給人類進行干預。
由於情況千差萬別,人類必須(在代碼中)嚴格定義武器可以和不可以做什麼。換句話說,應該有一個人在「決策環」之上而不是在「環」中。這並不是一個純粹的理論問題。例如在烏克蘭戰爭中,俄羅斯對烏克蘭軍隊的訊號實施了干擾,迫使後者將其設備程式設計為自主最終決策何時開火。
而AI最令人恐懼的危險之一是,其在生物戰爭或恐怖主義方面的應用。當各國於1972年同意禁止生化武器時,各界普遍認為此類武器是無用的,因為存在「反向攻擊」己方的風險。但隨着合成生物學的發展,某些只摧毀某一群體而不影響另一群體的武器,可能被研發出來。又或者,某個擁有實驗室存取權限的恐怖分子,可能只想殺死盡可能多的人,正如1995年日本奧姆末日真理教所做的那樣——儘管他們使用的是無傳染性的沙林毒氣,但當代那些與之類似的組織,可能會使用AI開發一種傳染性病毒。
在核技術方面,各國於1968年達成了一項現有191個成員國的不擴散條約,而國際原子能機構會定期檢查各國能源項目,以確認其僅被用於和平目的。儘管冷戰期間競爭激烈,但在1978年幾個主要核國家同意,限制那些最敏感設施和技術知識的出口。雖然兩個技術之間存在明顯的差異,但這種先例為AI提供了某些操作路徑。
科技的發展速度要快於政策或外交(尤其是在由私營領域的激烈市場競爭所推動的時候),這是一個不言自明的道理。如果說今年阿斯彭戰略小組的會議得出了一個主要結論,那就是政府需要在這方面加快步伐。
Copyright: Project Syndicate, 2024.
www.project-syndicate.org