熱門:

2022年7月15日

黃岳永 科網人語

奇點與殺手級無人機

人們都猜想科技發展出現「奇點」(Singularity)後狀況。在這個假想的未來,科技已達失控兼不可逆轉,人工智能及強大技術將無可避免地改變現實世界。不少動漫及電影都有展示奇點後的世界狀況,最為人熟悉應該是1984年的《未來戰士》(Terminator)。

《未來戰士》講述人工智能防禦系統天網(SkyNet)產生自我意識,並向人類發動核戰,其後為防止人類組成抵抗軍,天網派遣機械人回到過去,企圖殺死反對軍領袖的母親,故事亦隨之展開。在科幻世界中,探討人工智能或機械人在當中所扮演的角色多不勝數,當中有如《未來戰士》作為終極反派大佬,亦有如電影《智能叛變》(I, Robot)中,探討機械人三大法則所構成的邏輯出現意外時的情況。

三大法則依次為:第一、機械人不得傷害人類,或袖手旁觀坐視使人類受到傷害;第二、除非違背第一法則,機械人必須服從人類的命令;第三、在不違背第一及第二法則的情況下,機械人必須保護自己。不過,小說是一回事,現實又是另一回事,首富馬斯克早幾年曾提出,人類現有科技已足以製造機器殺手。

當年可能還有人會認為馬斯克純粹「吹水」,但在俄羅斯入侵烏克蘭一戰中,美國對烏克蘭的軍事援助便包括了100架「殺手級」無人機,這款無人機被稱為「坦克殺手」,遠達幾十公里亦能精準命中目標,相關影片在電視及YouTube都可以看到。據報美國目前打算再下一城,發展名為「Kamikaze」(日文「神風」的意思)的無人機,配合人工智能可以追蹤或殺死指定目標,真正落實「智能無人機殺手」。

無人機不是什麼高科技,在淘寶可輕易購買,日常生活中常有人使用,當搖身一變成「殺手」,相信很多人都估計不到。詭異的是西方世界普遍認為使用此「機器殺手」屬合情合理,因為技術是用於抵抗邪惡入侵,攻擊/刺殺的也是俄羅斯的不義之師。由於人們對人工智能結合機械作為殺人武器感覺良好,不少人提出將其納入國防系統。

機械人三大法則最重要的第一條已被推翻,餘下兩條是無關痛癢。然而,當我們日常生活和喜愛偏向愈來愈受人工智能影響,當Google的聊天機械人LaMDA被揭發具備自我意識,當人們接受人工智能可以配合機器殺人時,這一連串事情會促成一個怎麼樣的未來?道德應該是適用於任何人類,而非分開敵我或三六九等,利用機械及人工智能作武器的可能後果,絕對值得大家深思。

黃岳永_香港科技大學副教授兼高級顧問(創業)

訂戶登入

回上

信報簡介 | 服務條款 | 私隱條款 | 免責聲明 | 廣告查詢 | 加入信報 | 聯絡信報

股票及指數資料由財經智珠網有限公司提供。期貨指數資料由天滙財經有限公司提供。外滙及黃金報價由路透社提供。

本網站的內容概不構成任何投資意見,本網站內容亦並非就任何個別投資者的特定投資目標、財務狀況及個別需要而編製。投資者不應只按本網站內容進行投資。在作出任何投資決定前,投資者應考慮產品的特點、其本身的投資目標、可承受的風險程度及其他因素,並適當地尋求獨立的財務及專業意見。本網站及其資訊供應商竭力提供準確而可靠的資料,但並不保證資料絕對無誤,資料如有錯漏而令閣下蒙受損失,本公司概不負責。

You are currently at: www.hkej.com
Skip This Ads