2023年6月21日 星期三

未知之境

二零一四年電影《機械姬》(Ex Machina)劇照

  美國作家和歷史學家理查德.羅茲在著名的《原子彈秘史》一書中,提到了一個故事,今天讀起來仍耐人尋味。

  一九三三年九月十二日,匈牙利裔美國核物理學家利奧.西拉德在大英博物館附近的路口等着過馬路,他剛剛閱讀了前一天「原子核物理學之父」歐內斯特.盧瑟福的演講報告,裏面提道,「任何在原子轉化中尋找能量來源的人都是在胡說八道」。西拉德突然萌生了核連鎖反應的念頭,意識到盧瑟福錯了。「當他過馬路時」,書中寫道,「時間在他面前裂開,他看到了通往未來的道路,看到了世界的死亡和我們所有的痛苦,以及未來事物的形態」。之後西拉德協助愛因斯坦致信羅斯福總統,催生了研製出人類首枚核武器的「曼哈頓計劃」,而隨後發生的一切我們都知道了。

  歷史總在不斷地重演,當今世界對於「人工智能可能會威脅人類」問題爭論不休,有人認為屬誇大其詞,有人卻認為已迫在眉睫,似乎也讓我們陷入了故事中相同的處境。我們到底該對人工智能有多擔心?至少在劍橋大學教授約翰.諾頓看來,二零一四年的電影《機械姬》(Ex Machina)暗藏不少答案,似乎能從中得到某些啟示。

  這部上映於九年前的電影講述了關於人工智能的驚悚故事,主人公加利在某知名搜索引擎公司擔任程序員,他受老闆納森之邀前往深山中的別墅一起度假,實際上納森另有目的,他之前研製出智能機器人艾娃,為了確認她是否具有獨立思考能力,希望加利協助他完成對艾娃的圖靈測試。在隨後的測試中,加利發現艾娃不但擁有自己的想法和情感,還通過干擾測試來說服加利幫她逃脫控制。最終納森被殺死,加利被鎖在房間,而艾娃坐上原本要接走加利的直升機進入人類世界,這場人類和機器的PK以艾娃取勝而告終。

  作為本片導演的亞力克斯.嘉蘭是英國小說家,他自幼就着迷於人工智能概念,曾參與編導多部科幻片,這部他自編自導的電影,凝聚了他對人和機器之間邊界的思考─究竟機器只能是為人類服務,還是某一天可能替代或消滅人類?按諾頓的話說,當人工智能正日益成為現實生活的一部分,人們就有理由開始擔心,這部電影對人工智能的憂思不僅是針對這個時代的一種預言,更為重要的是,它也提出了對人類命運的種種假設與隱喻。

  以電影片名為例,《機械姬》出自拉丁語Deus Ex-Machina,意指「機器裏出來的神」,而本片把Deus(神)這個詞去掉,意味着這回造物者不是神,而是人類,是老闆納森扮演了神的角色,他研製出艾娃,把冷冰冰的機器變成了完美的智慧體。與此同時,實驗室的牆上掛着一排機器人的臉,像一副副面具,而面具起源於古希臘悲劇,恰預示着不祥的結局,也就是納森的死,實際上納森對人工智能的進化程度大大低估,他自以為掌控一切,殊不知最終沒有逃出艾娃的算計。至於由人類創造出來的艾娃,當她成為一個獨立的新生命體後,就不必再像任何人,她依靠資訊和能源生存,其強大是人類不可比擬,正如電影中加利曾對納森說,「如果你創造了一個有意識的機器,那將不再是人類的歷史,而是上帝的歷史。」

  巧合的是,日前全球數百名頂尖科學家和科技界領袖發表聯合聲明,警告人工智能對人類生存構成的威脅堪比核戰,而《機械姬》中也早有類似預言,影片穿插了大量有關核彈的伏筆。比如,納森被灌醉暈倒之前,他說了一段來自《薄伽梵歌》的詩句:「在戰場上,在森林裏,在斷崖邊……」而這段話曾由「原子彈之父」奧本海默翻譯,就在第一次原子彈爆炸實驗之前,當試驗成功後,奧本海默又引用了梵歌裏的「我成為了死亡本身,無盡世界的毀滅者。」這句話在影片中也有提及,以表達對智能機器人的擔憂。至於加利,他的手機鈴聲則來自英國OMD樂隊的歌曲《Enola Gay》,歌名正是二戰時美軍在日本廣島投下綽號「小男孩」原子彈的飛機名。

  從某種程度講,《機械姬》的這樣處理方式,與日本少年科學漫畫家浦澤直樹的《冥王》頗為相似,當機器人阿童木醒來後,他寫下的竟是毀滅人類的原子武器公式,也許經過人工智能的計算,得出的結論都是殺死人類,才是對自己和對地球最好的選擇。而面對人工智能引發的「末日」,人類能做的,恐怕就像經典科幻片《星際穿越》(Interstellar中那位老物理學家,臨死前還在反覆吟唱狄蘭.托馬斯的《不要溫順地走進那個良夜》,這詩句彷彿是他的聖經,也更像是一個夢魘。

  在諾頓看來,早前有「AI教父」之稱的科學家辛頓退出谷歌以警告人工智能技術的危險,擔心的不僅是機器比人類學習得更好更快,還有這項強大的技術完全掌握在少數大公司手中,令科技巨頭們陷入一場可能無法停止的競賽,並最終將我們帶入一個未知之境,而這一切都關係到人類的生存與毀滅。他說,我不是悲觀主義者,但現實與電影的距離,似乎只剩下一步之遙。

沒有留言:

張貼留言