2019年1月4日

人工智能與「大君主時代」

昨天談及物理學家鐵馬克的著作《生命3.0》，他前瞻了眾多未來世界的新倫理規範，其中一個主軸，就是未來人類會很習慣獨裁社會，而且享受生活在其中。

懶得再談「私隱」概念

昔日人類普遍討厭獨裁制度，一來是因為制度侵犯個人自由，二來是獨裁制度往往掌握了國家機器，然後出現嚴重誤判或人為失誤，造成貪污腐化，甚或饑荒、戰爭等悲劇。

然而在可見將來，無論民主社會還是威權社會，利用人工智能監控全國人民的趨勢已經不可逆轉，無論Facebook還是微信、微軟還是華為，在「國家安全」面前，都不可能不與政權合作，這些機構本身也會逐漸成為管治制度的一部分。新一代早已假定了一舉一動都被監控，在網上網下的行為都不可能逃離天眼，也懶得再談騙人的「私隱」概念。

與此同時，有了大數據、機械學習輔助的人工智能政體，很容易可以作出基於數目字管理的社會規劃，而且不容易有誤判，產生類似昔日大躍進悲劇的可能性低了很多，卻更容易繞過種種人類劣根性，有效平均分配經濟資源於廣大人民。

哪個地方的人民需要更多娛樂、休憩設施，哪裏需要更多圖書館和咖啡店，同樣可以通過人工智能政府輕易落實，這種「成功爭取」，遠比依靠中介人的代議政治來得有效率，也符合全球裁汰中介人的「uberization」大趨勢。

鐵馬克受到不少批評

當人類習慣了這樣的社會模式，日常生活需要操心的，會變得十分有限，因為大選擇都已用不着人力操勞，剩下的選擇不過是到沖繩還是首爾、食魚蛋還是壽司。

再到了人工智能發展為「超人工智能」，完全掌控社會，管理者就會成為「仁慈的獨裁者」，徹底控制一切人類福祉，甚或把一般人類當作寵物飼養，成為動物園管理員。

到了極致，也不能排除超人工智能得出「人類只會浪費資源」的結論，請願淘汰人類，而自居為「傳承」人類文明的接班人。

鐵馬克的《生命3.0》自然受到不少論者批評，例如在《科克斯書評》（Kirkus Review）有一篇評論，認為這位物理學家的書更多是先知式預言，多於嚴謹的科學探究；與鐵馬克一起在生命未來研究所共事的羅素（Stuart Russell）指出，鐵馬克仍無法解答為何現在就要研究「超人工智能」；網絡文化學者羅斯（Frank Rose）亦認為，鐵馬克對人工智能發展的正面肯定是「高貴但幼稚」的。

然而，鐵馬克對人工智能的發展，始終持正面態度，起碼在短期內，要達致一個消除貧窮、疾病和不正義的社會，唯有人工智能才能實現。至於長遠的未來，誰能知？

(編者按：沈旭暉著作最新著作《平行時空2 – 解構本土主義崛起的世界》現已發售)

歡迎訂購：實體書、電子書