熱門:

2020年3月2日

車品覺 全民大數據

何謂人工智能倫理三定律

人工智能倫理最早進入公眾討論,可能是來自科幻小說作家阿西莫夫提出的「機械人三定律」。阿西莫夫不僅是哥倫比亞大學化學博士,更是世界聞名的全能作家,曾獲代表科幻界最高榮譽的雨果獎和星雲終身成就大師獎。

阿西莫夫一生著述多達數百本,內容遍及科學、天文、生物等,其中有一本小說I, Robot(曾拍成電影《智能叛變》),在1950年出版,淵博的學識使他筆下世界具備了奇幻的想像、高度的預言性。阿西莫夫在書中提出「機械人三定律」,幾乎成了以後科幻作家創作有關機械人作品時必須遵循的法則。

第一定律:機械人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管。

第二定律:機械人必須服從人類給予它的命令;該命令與第一定律衝突時例外。

第三定律:機械人在不違反第一、第二定律的情況下要盡可能保護自己的生存。

阿西莫夫就在三定律的框架下創作了一系列短篇機械人科幻小說。在他筆下的小說,機械人都是穿插於這些法則的前提下逐漸展開故事。同時,三定律的影響力也具有一定現實意義,有人在三定律基礎上建立了「機械倫理學」,旨在研究人類和機械之間的關係,也可以說是創立了人工智能倫理學的先河。

以人類整體利益為大前提

你可能會問,倫理是什麼?翻查百度的答案:倫理是指在處理人與人、人與社會相互關係時應遵循的道理和準則。舉個例子,如果你懼怕被警員發罰單而不敢亂過馬路,這是因為你不想因此而招致財務損失。但如果在你確定絕對不會被人發現下,依然循規蹈矩安份過馬路,這可能就是你所認可的倫理觀念,或是你的道德底線。

從人工智能現有能力給人類社會帶來的負面後果角度來看,我們正面對着兩大類問題:一、人工智能被委以對人類事務作出決策的能力,但它對決策結果的倫理判斷能力不足;二、人類缺乏引導人工智能發揮作用的終極倫理準則。

值得注意的是,例如雖然人類要為垃圾處理作出額外代價,但我們有部分人願意付出代價處理垃圾,來換取更大的長遠利益,為地球環保盡點力。如果把這種倫理思想放置於剛才的三定律中,這可能就是後來補充的「機械人零定律」:機械人必須保護人類的整體利益不受傷害,其他三條定律都是在這一前提下才能成立。

車品覺

紅杉資本中國基金專家合夥人、阿里巴巴集團前副總裁

 

訂戶登入

回上

信報簡介 | 服務條款 | 私隱條款 | 免責聲明 | 廣告查詢 | 加入信報 | 聯絡信報

股票及指數資料由財經智珠網有限公司提供。期貨指數資料由天滙財經有限公司提供。外滙及黃金報價由路透社提供。

本網站的內容概不構成任何投資意見,本網站內容亦並非就任何個別投資者的特定投資目標、財務狀況及個別需要而編製。投資者不應只按本網站內容進行投資。在作出任何投資決定前,投資者應考慮產品的特點、其本身的投資目標、可承受的風險程度及其他因素,並適當地尋求獨立的財務及專業意見。本網站及其資訊供應商竭力提供準確而可靠的資料,但並不保證資料絕對無誤,資料如有錯漏而令閣下蒙受損失,本公司概不負責。

You are currently at: www.hkej.com
Skip This Ads