最近數個月很可能成為令人銘記的時刻，因預測性人工智能成為主流。預測演算法已經使用了幾十年，但像OpenAI的ChatGPT3這樣的應用程式的發表——以及它與微軟的搜尋引擎Bing的快速整合——可能已經打開了使用者友好型人工智能的大門。ChatGPT3發表不出數周，便已經吸引了1億個月度用戶，其中許多人無疑已經體驗它的黑暗面——從侮辱和威脅到虛假資訊，以及它顯示出來的編寫惡意程式碼的能力。
登上頭條的聊天機械人僅是冰山一角。創造文本、語音、藝術和視頻的人工智能正在迅速發展，對管治、商業和公民生活具有深遠影響。毫不奇怪，資本正在湧入該領域，政府和公司都在投資初創企業開發和部署最新的機器學習工具。這些新的應用，將把歷史資料與機器學習、自然語言處理和深度學習互相結合，從而確定未來事件的概率。
至關重要的是，新的自然語言處理和生成性人工智能的採用，將不局限於富裕國家和一馬當先的谷歌、Meta和微軟等公司。這些技術已經在中低收入環境中傳開，從減少城市不平等，到解決食品安全問題的各種預測分析，對於尋求提高效率、釋放社會和經濟效益，但又現金緊張的政府、公司和非政府組織來說，是巨大的希望。
然而問題是，人們對這些技術的潛在負面外部性和意外影響，關注不夠。最明顯的風險是，空前強大的預測工具，將加強獨裁政權的監控能力。
一個被廣泛引用的例子是中國的「社會信用體系」，它利用信用紀錄、犯罪紀錄、網上行為和其他資料，給該國的每個人打分。這些分數可以決定一個人是否可以獲得貸款、進入一所好學校、乘坐鐵路或航空旅遊，諸如此類。儘管中國的系統被稱為提高透明度的工具，但它同時也是一種社會控制的工具。
然而，即使使用預測工具的是表面上善意的民主政府、專注於社會影響的公司和進步的非牟利組織，也會產生次優的結果。基礎演算法的設計缺陷，和帶有偏見的數據，可能導致隱私洩露和身份歧視。這已經成為刑事司法中的一個突出問題，預測性分析經常使種族和社會經濟差異長期存在。例如，為幫助美國法官評估慣犯的可能性而建立的人工智能系統，錯誤地認定黑人被告的再犯罪風險遠遠高於白人。
人們對人工智能加深工作場所的不平等的擔憂也在增加。到目前為止，預測性演算法一直在提高效率和利潤，使管理者和股東受惠，但犧牲普通工人的利益（特別是在零工經濟中）。
在所有這些例子中，人工智能系統正在為社會舉起一面哈哈鏡，投射並放大我們的偏見和不平等。正如技術研究員Nanjira Sambuli所指，數碼化往往會加劇而不是改善之前存在的政治、社會和經濟問題。
採用預測性工具的熱情，必須用對其預期和非預期效果的知情和道德考慮來制衡。在強大的演算法的影響有爭議或未知的情況下，預防原則認為還是不要部署為妙。
我們決不能讓人工智能成為決策者要求赦免而非許可又一個領域。這就是為何聯合國人權事務高級專員和其他機構，呼籲暫停採用人工智能系統，直至倫理和人權框架得到更新，考慮其潛在的傷害。
擬定適當的框架，需要就設計和使用預測性人工智能工具所應遵循的基本原則達成共識。幸運的是，人工智能競賽已經同步引來關於倫理的研究、倡議、機構和網絡。民間社會已率先行動，但經合組織和聯合國教科文組織等政府間實體，也已參與其中。
至少從2021年開始，聯合國便一直致力建立合乎倫理的人工智能的普遍標準。此外，歐盟已經提出了一項人工智能法案——這是主要監管機關的首次努力。該法案將阻止某些用途（如類似中國的社會信貸系統），並將其他高風險應用置於具體的要求和監督之下。
迄今為止，這場辯論絕大部分集中在北美和西歐。但中低收入國家有自己的基本需求、關注點和社會不平等問題需要考慮。大量的研究顯示，由發達經濟體開發、面向發達經濟體的技術，往往不適合欠發達經濟體。
如果新的人工智能工具，在必要的管理結構到位之前，便被簡單地引進並投入廣泛使用，很容易弊大於利。要為人工智能管理設計真正普遍的原則，便必須考慮所有這些問題。
認識這些差異，伊格拉佩研究所（Igarapé Institute）和新美國（New America）最近成立了一個新的預測性分析促進安全和發展全球工作組。該工作組將召集來自美洲、非洲、亞洲和歐洲的數碼權利宣導者、公共部門合作夥伴、科技企業家和社會科學家，目的是為用於全球南方的公共安全和可持續發展的預測技術的使用，定義第一套原則。
制定這些原則和標準只是第一步。更大的挑戰是調動國際、國家和次國家的合作與協調，從而在法律和實踐中實施這些原則和標準。在全球急於開發和部署新的預測性人工智能工具的情況下，預防傷害框架對於確保一個安全、繁榮、可持續和以人為本的未來至關重要。
Copyright: Project Syndicate, 2023.
www.project-syndicate.org
