2023年7月27日

蔡陽光 論盡CEO

智能危機

有正就有邪，有人就有魔。研發人工智能的一群電腦專家，理想遠大，希望有朝一日，AI能夠成為親密戰友及最佳助手，協助科學家解決各種威脅地球與人類的問題，從阻止極端氣候、逆轉全球暖化，到研製新藥，對付各種病毒與頑疾，都能借力AI。無奈，肯定有形形色色的不良分子，已經在摩拳擦掌，準備打AI主意，借此革命性科技，做各種各樣的壞事。

Anthropic CEO「安全至上」

2021年，當全世界都活在新冠疫情陰影下，7個前OpenAI研究員，戴着口罩，隔開成丈遠，開始聚在一起，商討如何制止這種智能危機的發生，初創Anthropic，就此誕生。包括行政總裁在內的兩位共同創辦人，決定將「安全至上」設定為他們訓練AI模型的首要考慮，從而建立一個有用、無害、誠實的人工智能系統。

當不少人都追求最強最快的AI時，為何該公司CEO阿莫迪（Dario Amodei）覺得安全更加重要、更有市場價值？為何他有信心，別人會同意採用更加嚴格的AI安全標準？

「如果某些瘋狂的人問AI，如何控制整個地球？」或者如何搞各種破壞，後果不堪設想。所以阿莫迪毫不懷疑，世界需要一個跟隨人類良好意願的人工智能系統。

當建基於大語言模型的AI，背後模型的複雜性以倍數速度上升時，AI的反應亦將變得更加難以預測。在阿莫迪看來，理所當然地，「人人都想要一個講真說話、不會誤導人的人工智能系統，人人都想要一個懂得不被濫用、懂得如何不成為別人作惡工具的人工智能系統。」

另一方面，阿莫迪預見AI方面的監管將日趨嚴厲，具備優越安全性的系統，必定更有價值。「大家愈來愈明白這個道理，對安全性非常重視。安全的AI系統，在市場上，最終會將不安全的AI系統擊敗。」

OpenAI有ChatGPT作為王牌，Anthropic同類的聊天機械人，名字叫Claude。該公司有套獨門技術，為AI模型提供一組指引，幫手把關，衡量生成的內容是否達到有用與無害的要求。

7月份，Anthropic發布Claude 2改良版，包括安全性在內的各類功能進一步提升。負責推廣部的高層表示，公司一直在設法改進模型，令Claude更加明白自己能力上的限制。同時，碰到詢問內容可能會導致一些麻煩後果，例如如何劫獄這類提問，系統會選擇迴避，或者查詢內容涉及歧視等敏感區域，系統亦會拒絕作答。不過，改良版仍未能完全杜絕提供有害內容等AI弊病。

盼AI破解醫療謎團

AI人都想以科技將世界變得更加完美，阿莫迪亦不例外。記者問這位創辦人，如果能夠改變世界，最想實現哪個夢想？曾攻讀計算生物學（利用電腦模擬、數據分析、數學模型等技巧，研究包括細胞、遺傳基因、器官組織等生物系統）的他回答，「我最常想到的就是醫藥。醫療領域，剩下未能攻破的，都是一些比較複雜的疾病，例如老化、老人癡呆症等等，而生成式AI，已經證實有能力處理巨量知識，只要能夠發明一個足夠強大的系統，同時能夠確保其安全性與可靠性，加快找到醫藥上最大謎團的破解答案，指日可待。」

建立威力大而且具備高度安全性的人工智能系統，需要大量昂貴晶片進行訓練，Anthropic目標要打造一個比目前最厲害的AI還要強大十倍的Claude-Next，燒錢無可避免。幸運地，AI主題相對受市場歡迎。年初微軟宣布加大對OpenAI的投資後，谷歌隨後就注資3億美元、購入Anthropic一成股權；5月另一輪融資，谷歌再度參與。阿莫迪已經明言，未來一兩年，還需要更多資金去完成研發目標。有AI熱潮，加上谷歌這個大靠山，阿莫迪暫時應該不用為「軍費」傷太多腦筋。

下一篇：	三大驅動因素 探索市場走向
上一篇：	食品價難大升