人類是製造工具的物種，但我們能控制自己創造的工具嗎？當奧本海默（Robert Oppenheimer）等物理學家在1940年代，開發出第一種核裂變武器時，他們擔心自己的發明可能會毀滅人類。雖說到目前為止仍未發生這種狀況，但管控核武器的挑戰卻一直存在。
如今許多科學家將人工智能（AI）——能夠讓機器執行通常需要人類智慧才能完成的任務的演算法和軟件，視為一種同樣具有變革性的工具。正如以往那些通用技術，AI具備巨大的行善與作惡潛力。在癌症研究中，它只需數分鐘便能對一批研究案例進行梳理並總結，而同樣的工作人類團隊需要花上數個月才能完成。它還能可靠地預測蛋白質折疊的模式，而在這方面人類研究人員則得耗時數年。
但AI也降低了那些思想行為怪異者、恐怖分子和其他惡意行為者造成傷害的成本和門檻。正如蘭德公司（RAND）近期發表的一項研究所警告的那樣，「復活一種類似天花的危險病毒的邊際成本，可能只需10萬美元，而開發一種複雜對應疫苗或許要花費10億美元以上。」
此外，一些專家擔心，先進的AI將比人類聰明得多，以至掌握控制權的將是它而不是我們。關於需要多長時間才能開發出這種超級智慧型機器（名為人工通用智慧），各界的估算從數年至數十年不等。但無論如何，當今這個狹義AI所帶來不斷增長的風險，已經需要我們給予更多關注了。
40年來，由前政府官員、學者、商界人士和記者組成的阿斯彭戰略小組，每年夏天都會集中研究一個重大國家安全問題。過往的會議討論了核武器、網絡攻擊和中國崛起等主題，而今年我們則把焦點放在AI對國家安全的影響上，檢視了其益處和風險。
它能提供的其中一些益處是，可以更好地梳理海量情報資料，強化早期預警系統，改進複雜的物流體系，並檢查電腦代碼以提高網絡安全。但它也會催生一些重大風險，例如自主式武器的進步、演算法程式設計中的意外錯誤，以及可能削弱網絡安全的敵對AI。
中國針對更大範圍的AI軍備競賽進行了大量投資，而且還擁有一些結構性優勢。AI的3個關鍵資源是訓練模型的資料、開發演算法的高智商工程師，以及運行它們的計算能力。中國在資料獲取方面幾乎沒有法律或隱私限制（儘管意識形態限制了某些資料集），且擁有大量聰明的年輕工程師，而它最為落後於美國的領域。則是為AI提供計算能力的先進微處理晶片。
美國的出口管制限制了中國獲取這些前沿晶片，以及製造它們的昂貴荷蘭光刻機的渠道。阿斯彭的專家們一致認為，中國在這方面落後美國一至兩年，但情況隨時可能發生變化。儘管總統拜登和習近平去年秋天會面時同意，就AI展開雙邊討論，但專家們對AI軍控的前景並不感到樂觀。
自主式武器則構成了特別嚴重的威脅。在聯合國十多年的外交努力下，各國仍未能就禁止自主式致命武器達成協議。國際人道法要求軍隊區別對待武裝戰鬥人員和平民，而五角大樓長期以來要求，在發射武器之前必須有人參與決策環節。但在某些情況下，例如防禦來襲導彈時，並沒有足夠時間留給人類進行干預。
由於情況千差萬別，人類必須（在代碼中）嚴格定義武器可以和不可以做什麼。換句話說，應該有一個人在「決策環」之上而不是在「環」中。這並不是一個純粹的理論問題。例如在烏克蘭戰爭中，俄羅斯對烏克蘭軍隊的訊號實施了干擾，迫使後者將其設備程式設計為自主最終決策何時開火。
而AI最令人恐懼的危險之一是，其在生物戰爭或恐怖主義方面的應用。當各國於1972年同意禁止生化武器時，各界普遍認為此類武器是無用的，因為存在「反向攻擊」己方的風險。但隨着合成生物學的發展，某些只摧毀某一群體而不影響另一群體的武器，可能被研發出來。又或者，某個擁有實驗室存取權限的恐怖分子，可能只想殺死盡可能多的人，正如1995年日本奧姆末日真理教所做的那樣——儘管他們使用的是無傳染性的沙林毒氣，但當代那些與之類似的組織，可能會使用AI開發一種傳染性病毒。
在核技術方面，各國於1968年達成了一項現有191個成員國的不擴散條約，而國際原子能機構會定期檢查各國能源項目，以確認其僅被用於和平目的。儘管冷戰期間競爭激烈，但在1978年幾個主要核國家同意，限制那些最敏感設施和技術知識的出口。雖然兩個技術之間存在明顯的差異，但這種先例為AI提供了某些操作路徑。
科技的發展速度要快於政策或外交（尤其是在由私營領域的激烈市場競爭所推動的時候），這是一個不言自明的道理。如果說今年阿斯彭戰略小組的會議得出了一個主要結論，那就是政府需要在這方面加快步伐。
Copyright: Project Syndicate, 2024.
www.project-syndicate.org
