熱門:

2023年7月27日

蔡陽光 論盡CEO

智能危機

有正就有邪,有人就有魔。研發人工智能的一群電腦專家,理想遠大,希望有朝一日,AI能夠成為親密戰友及最佳助手,協助科學家解決各種威脅地球與人類的問題,從阻止極端氣候、逆轉全球暖化,到研製新藥,對付各種病毒與頑疾,都能借力AI。無奈,肯定有形形色色的不良分子,已經在摩拳擦掌,準備打AI主意,借此革命性科技,做各種各樣的壞事。

Anthropic CEO「安全至上」

2021年,當全世界都活在新冠疫情陰影下,7個前OpenAI研究員,戴着口罩,隔開成丈遠,開始聚在一起,商討如何制止這種智能危機的發生,初創Anthropic,就此誕生。包括行政總裁在內的兩位共同創辦人,決定將「安全至上」設定為他們訓練AI模型的首要考慮,從而建立一個有用、無害、誠實的人工智能系統。

當不少人都追求最強最快的AI時,為何該公司CEO阿莫迪(Dario Amodei)覺得安全更加重要、更有市場價值?為何他有信心,別人會同意採用更加嚴格的AI安全標準?

「如果某些瘋狂的人問AI,如何控制整個地球?」或者如何搞各種破壞,後果不堪設想。所以阿莫迪毫不懷疑,世界需要一個跟隨人類良好意願的人工智能系統。

當建基於大語言模型的AI,背後模型的複雜性以倍數速度上升時,AI的反應亦將變得更加難以預測。在阿莫迪看來,理所當然地,「人人都想要一個講真說話、不會誤導人的人工智能系統,人人都想要一個懂得不被濫用、懂得如何不成為別人作惡工具的人工智能系統。」

另一方面,阿莫迪預見AI方面的監管將日趨嚴厲,具備優越安全性的系統,必定更有價值。「大家愈來愈明白這個道理,對安全性非常重視。安全的AI系統,在市場上,最終會將不安全的AI系統擊敗。」

OpenAI有ChatGPT作為王牌,Anthropic同類的聊天機械人,名字叫Claude。該公司有套獨門技術,為AI模型提供一組指引,幫手把關,衡量生成的內容是否達到有用與無害的要求。

7月份,Anthropic發布Claude 2改良版,包括安全性在內的各類功能進一步提升。負責推廣部的高層表示,公司一直在設法改進模型,令Claude更加明白自己能力上的限制。同時,碰到詢問內容可能會導致一些麻煩後果,例如如何劫獄這類提問,系統會選擇迴避,或者查詢內容涉及歧視等敏感區域,系統亦會拒絕作答。不過,改良版仍未能完全杜絕提供有害內容等AI弊病。

盼AI破解醫療謎團

AI人都想以科技將世界變得更加完美,阿莫迪亦不例外。記者問這位創辦人,如果能夠改變世界,最想實現哪個夢想?曾攻讀計算生物學(利用電腦模擬、數據分析、數學模型等技巧,研究包括細胞、遺傳基因、器官組織等生物系統)的他回答,「我最常想到的就是醫藥。醫療領域,剩下未能攻破的,都是一些比較複雜的疾病,例如老化、老人癡呆症等等,而生成式AI,已經證實有能力處理巨量知識,只要能夠發明一個足夠強大的系統,同時能夠確保其安全性與可靠性,加快找到醫藥上最大謎團的破解答案,指日可待。」

建立威力大而且具備高度安全性的人工智能系統,需要大量昂貴晶片進行訓練,Anthropic目標要打造一個比目前最厲害的AI還要強大十倍的Claude-Next,燒錢無可避免。幸運地,AI主題相對受市場歡迎。年初微軟宣布加大對OpenAI的投資後,谷歌隨後就注資3億美元、購入Anthropic一成股權;5月另一輪融資,谷歌再度參與。阿莫迪已經明言,未來一兩年,還需要更多資金去完成研發目標。有AI熱潮,加上谷歌這個大靠山,阿莫迪暫時應該不用為「軍費」傷太多腦筋。

訂戶登入

回上

信報簡介 | 服務條款 | 私隱條款 | 免責聲明 | 廣告查詢 | 加入信報 | 聯絡信報

股票及指數資料由財經智珠網有限公司提供。期貨指數資料由天滙財經有限公司提供。外滙及黃金報價由路透社提供。

本網站的內容概不構成任何投資意見,本網站內容亦並非就任何個別投資者的特定投資目標、財務狀況及個別需要而編製。投資者不應只按本網站內容進行投資。在作出任何投資決定前,投資者應考慮產品的特點、其本身的投資目標、可承受的風險程度及其他因素,並適當地尋求獨立的財務及專業意見。本網站及其資訊供應商竭力提供準確而可靠的資料,但並不保證資料絕對無誤,資料如有錯漏而令閣下蒙受損失,本公司概不負責。

You are currently at: www.hkej.com
Skip This Ads