熱門:

2019年1月1日

黃錦輝 宏觀視野

偏見私隱潛風險 礙人臉識別發展

「計算機視覺」(Computer Vision)是人工智能(AI)科研的四大領域之一,目的是利用電腦仿效人類的視覺功能,跟蹤、處理、分析及辨別目標「對象」(objects)。當中,「人臉識別」(face recognition)在近期炙手可熱,值得港人驕傲的是,本地大學在這領域中的研究論文引用率排名全球第三。其中一項由中文大學研發的成果更成功被轉化為譽滿全球的商業產品,而該技術所屬之研究團隊創辦的科技公司(「商湯科技」)更成為本港首家AI「獨角獸」企業。

準確率高達99.99%

今天利用AI科技,「人臉識別」的準確率已高達99.9999%,吸引產、商、官各界爭相採用。例如有手機製造商藉該技術開發「登入」功能系統,驗證客戶身份,加強設備安全性;商場以閉路電視(CCTV)跟蹤個別來客,分析其消費習慣,然後設計出具針對性的營銷策略;政府在「智慧城市」中裝置「天眼」,追查市民行蹤,以增強城市保安程度。

可惜,針無兩頭利,「人臉識別」技術在一般情況下確帶來不少方便,但同時對社會及文化帶來不少衝擊和風險。技術背後的潛風險一直受國際人權組織關注,遂影響其全面普及性。概括而言,較令人擔憂的風險如下:

歧視與偏見──有關技術在作出識別決定時是基於統計學,會因循多數(即出現較頻的人臉)優先的原則。因此,較少出現的人臉會被遺忘或被錯認,導致被判斷為不活躍的用戶未能獲得最新資訊。

個人私隱──人臉數據儲存在機器上,存有被盜用或非法使用的風險,例如商場可能把客戶人臉數據轉讓給商戶。

公民自由──在裝滿「天眼」的都市中,市民的一舉一動都被監視着,無所遁形。例如政府可透過天眼追蹤你昨晚去過什麼地方或跟誰在一起。

筆者認為,今時今日的數碼社會與英國作家喬治.歐威爾(George Owell)筆下《1984》中所描述的受監控之封閉社會(名為「大洋城」)愈來愈相似。在該封閉社會中,人民生活在滿城「電幕」(telescreen)下,每天被社會的獨裁者「老大哥」緊盯着(Big Brother is watching you)。有學者看畢《1984》後推測,若兩個人在「大洋城」要私下溝通的話,恐怕只可躲在黑房裏,用手指在對方手掌上以「摩斯密碼」來進行。

在一個飽受監控的「智慧城市」裏生活,你可以接受嗎?宜未雨而綢繆,毋臨渴而掘井。任何地方政府若要採用「人臉識別」技術的話,必須正視上述問題。政府切忌自以為是充當「老大哥」,相反,應聽取不同持份者的意見,以教育及法律手段防止「歧視與偏見」並維護個人私隱和公民自由。

3建議防變「老大哥」

特首林鄭月娥自上任以來一直積極推動本港創新及科技產業,並定下八大發展方向,其中「檢視法規」是重要一環。筆者建議政府認真參考微軟最近發表的《使用人臉識別技術應遵循的大原則》及歐盟去年推行的《通用數據公開法規》。

針對上述應用例子,筆者再提出以下3項法則:生產商開發「人臉識別」服務及產品必須通過準確率及安全性測試;商場必須公開告訴客戶所獲取的人臉及其他資訊的用途,同時要容許客戶選擇不參與「人臉識別」服務(opt out);政府必須獲得法院批准後才可利用「天眼」攝取的任何資訊。

作者為香港中文大學工程學院副院長(外務)、 香港資訊科技聯會前會長、香港專業及資深行政人員協會副會長

 

訂戶登入

回上

信報簡介 | 服務條款 | 私隱條款 | 免責聲明 | 廣告查詢 | 加入信報 | 聯絡信報

股票及指數資料由財經智珠網有限公司提供。期貨指數資料由天滙財經有限公司提供。外滙及黃金報價由路透社提供。

本網站的內容概不構成任何投資意見,本網站內容亦並非就任何個別投資者的特定投資目標、財務狀況及個別需要而編製。投資者不應只按本網站內容進行投資。在作出任何投資決定前,投資者應考慮產品的特點、其本身的投資目標、可承受的風險程度及其他因素,並適當地尋求獨立的財務及專業意見。本網站及其資訊供應商竭力提供準確而可靠的資料,但並不保證資料絕對無誤,資料如有錯漏而令閣下蒙受損失,本公司概不負責。

You are currently at: www.hkej.com
Skip This Ads