AI已融入我們生活中,不少人有近半工作都會使用AI處理,例如詢問採用公共設施、規劃旅遊路線等。但AI提供的資訊未必準確,有待求證。對於今日科技界熱議AI將來或「毀滅人類」,我認為呢個風險係存在,我們要永遠記喺腦海裏面。因此在用好AI技術的同時要管控風險。
當大家都在討論人工智能(AI)會否毀滅人類之際,我正在看美國經典科幻小說《沙丘》(Dune Saga)。《沙丘》也是一部2021年美國太空史詩拍成的科幻電影,由丹尼·維勒納夫執導,艾瑞克·羅斯、強·史派茲和導演本人共同編寫劇本,劇情改編自1965年英文同名科幻小說《沙丘》的前半部分內容,是兩部改編電影計畫中的第一部;講述出身貴族家庭的年輕繼承者背負起守護銀河系中最寶貴的資產也是最重要的元素的任務的故事。
《沙丘》因其視覺效果,世界觀和野心而受到好評,並以1.65億美元的製作預算在全球獲得了4.33億美元的票房收入。它被美國國家評論協會選為2021年十大電影,以及美國電影學會的年度十大電影,並在第94屆奧斯卡金像獎上斬獲六項大獎。在發行不到一週後,續集《沙丘:第二部》並於2024年3月1日上映。
欣喜得知,儘管AI真的會失控,掉過頭來控制人類,但作家赫伯特(Frank Herbert)告訴我們,不甘為奴的人類奮起反抗,向AI發動聖戰,最終是可以成為勝利者的。然後嘛,聖戰贏家見過鬼怕黑,全面禁絕「思考機器」(Thinking Machines),訂立不准逾越的嚴格規條:「汝不得製造模仿人類心智的機器(Thou shalt not make a machine in the likeness of a human mind)。」
小說家之言,虛構故事而已矣,何足掛齒?如果是10年前,我可能相信電腦只不過一件任勞任怨的工具,但今時不同往日,連美國首屈一指的科技企業巨頭也煞有介事發出警告,AI確實有本事智能叛變,我唯有把科幻小說視作預言先知,尋找現實世界的指路明燈。
赫伯特筆下,聖戰名為Butlerian Jihad。字源有兩個,其一來自英國十九世紀作家巴特勒(Samuel Butler);其二來自阿拉伯語,Jihad就是聖戰,或者反抗,或者鬥爭,總之要擊潰壓迫自己的惡魔。
巴特勒雖然未見過二十一世紀的AI大模型或智能體,但他早於百多年前的維多利亞時代,已推測機器有朝一日進化出智能和意識。他所寫的反烏托邦諷刺小說《烏有鄉》(Erewhon),講述機器成為統治者,人類自救的方法,是禁止製造及擁有任何機器。然而,烏有鄉的價值觀變得顛倒:生病等於犯罪,要坐監;犯罪等於生病,要治療。
人類一旦淪為奴隸,為保尊嚴唯有向AI發動聖戰。

