人工智能（AI）正在重塑我們溝通、獲取訊息、工作、分配收入和地位，甚至發動戰爭的方式。然而，公眾對此的討論卻仍局限於人工智能實驗室之間的競爭，或是關於該技術能力的抽象辯論。幾乎沒有人問：人工智能應該服務於什麼目的？我們的當前思維方式、制度和控制機制，是否能夠引導這項技術，從而廣泛提升人類的福祉？因此，教宗良十四世在其首份通諭中就此議題發聲，並將人工智能的當前發展軌跡，描述為對人類尊嚴深刻威脅的說法，着實令人耳目一新。作為長期主張「技術催生的結果取決於選擇而非宿命」的經濟學家，我也樂見他加入這場討論。
教宗良十四世呼籲「解除AI武裝」，強調人工智能應服務全人類而非少數權力者，並警告AI可能引發倫理、社會與軍事危機。
通諭背景與核心觀點
教宗良十四世於任內首次發表的宗座通諭《偉大的人類》（Magnifica Humanitas），全文約4.3萬字，聚焦人工智能對人類社會、倫理及戰爭的影響，強調AI應以人類福祉為核心，而非成為少數人掌控權力的工具。他指出，沒有任何演算法能使戰爭在道德上可接受，並呼籲將AI解除武裝，防止AI在軍事決策中取代人類，避免科技主宰人類。
對AI軍事與倫理的警告
教宗特別譴責AI在戰爭中的應用，指出部分自主武器系統已接近「超出人類可控制範圍」，將致命決策交由AI是不可接受的。他警告，AI可能助長假資訊傳播、加劇衝突，甚至導致「無止境戰爭」，並可能形成「新型數碼奴隸」或「數碼殖民主義」。
社會與政策建議
教宗呼籲全球放慢AI發展步伐，建立明確責任、政策與法律框架，並設立獨立監督機制，確保AI符合社會正義標準。他強調，AI資料不應完全掌握在私人手中，避免隱藏在演算法背後的新型剝削與奴役問題。此外，他提醒決策者保護勞工權益、兒童安全，並減少企業間惡性競爭，強調放緩AI普及是對人類大家庭負責任的表現。
AI應服務全人類
教宗指出，AI應成為全民可接觸的工具，服務於公共利益，而非少數人的權力。他引用聖經意象，將人類面臨的選擇比喻為建造巴別塔或重建耶路撒冷，強調科技應促進合作與和諧，而非驕傲與利益驅動的統治。
專家參與與對話
在通諭發表會上，教宗邀請了AI公司Anthropic聯合創辦人Chris Olah等專家出席，象徵教廷希望與科技界展開對話，並非單純批評，而是鼓勵全球共同探討AI倫理與規管。
教宗良十四世的立場表明，AI的發展必須以人性尊嚴、倫理與社會正義為前提，並呼籲全球共同努力，防止科技反過來支配人類。
教宗比大多數評論家更具前瞻性地指出：「技術絕非中立，因為它承載着設計者、資助者、監管者及使用者的特質。」然而，我擔心即使是他，也未能在最具決定性意義的問題上走得足夠遠，那就是人工智能應當被設計來做什麼？
正如西蒙．約翰遜與我在《權力與進步：我們圍繞科技和繁榮的千年沉浮》中所強調的那樣，像人工智能這樣的技術可以走多條路徑，而且每條路徑都會對社會產生深遠影響。比如教宗對人工智能在戰爭和執法領域上的當前發展軌跡提出質疑，就是正確的。那些幾年前還被視為禁忌的事情──由人工智能驅動的大規模監控、讓算法選定殺戮目標──如今已是司空見慣。
面對矽谷許多人敦促美國通過建立新的「軍工──算法複合體」來加強其硬實力的言論，教宗警告「任何毋須直面人類面孔即可實施攻擊的技術，都會降低衝突的道德門檻」，並隨後呼籲實施「人工智能裁軍」，以使其「擺脫『武裝』競爭的思維，因為這種思維如今不僅局限於軍事領域，更已成為經濟和認知現象。」
這些具體關切背後蘊含着更根本的智慧：技術進步並不必然意味着道德進步。僅僅因為某件事在技術上可行，並不意味着它對人類有益。至於某項技術是否值得追求，其實取決於誰在掌控它，以及引導這些人的意識形態和利益訴求。
教宗確實暗示了最迫在眉睫的風險，也就是「雖然人工智能承諾要通過接管各類瑣碎任務來提高生產力，但它往往迫使工人適應機器的運作速度和要求，而不是設計去讓機器與工人協同工作。」可是，教宗並未進一步質疑當前主流的人工智能設計哲學。整個人工智能行業的做法，都以模仿人類能力並將人類任務自動化為中心，其目標是創造「通用人工智能」，能夠完成人類所能做到的一切事情。
這種哲學基於一個錯誤的假設，即機器智能與人類智能在本質上相似，人類是「舉一反三」式學習者，我們從少數例子中形成假設，在腦海中模擬各種可能性，並通過試錯的社會過程來完善自身理解，因此兒童會通過模仿幾個詞語、進行概括，並根據他人的反應調整自己的語句來學習語言。我們並不善於吸收海量訊息，也不擅長從非結構化數據中篩選出相關模式。
相比之下，人工智能模型依賴海量訓練數據集並擅長大規模模式識別，卻尚未展現出真正的創造力。它們既缺乏現實世界的體感體驗，也無法通過與物理及社會世界的互動進行試錯學習──這種學習方式，只有在那些對強化學習具備明確獎勵機制的特定領域中，方能有限度實現。當兩者存在差異時，你不應該（通常也無法）用其中一方來模仿另一方，因為結果往往不如人意。
人工智能與人類技能的關係亦是如此。利用人工智能完成人類無法完成的任務，從而讓人類拓展自身能力的做法，比起簡單的模仿更具生產力。在那些人工智能強化而非取代人類能力的未來場景中，電工將借助人工智能進行故障診斷，護士會諮詢人工智能來解讀症狀，教師可利用人工智能來為每位學生因材施教。
樂觀主義者和行業內人士可能會反駁說，只要財富再分配政策能跟上步伐，以自動化為先的人工智能，依然可以惠及所有人。可是，這一論點的過往紀錄並不理想。40年來的生產自動化，只是讓收益集中在頂層，掏空了中等技能工作崗位，並催生了令人失望的總體生產增長。我們幾乎沒有理由相信，這一輪更壟斷行業部署、更強大自動化浪潮，會帶來不同的結果。
為此，我們必須要求進行另一種設計。
當今人工智能行業最大的缺陷，或許就在於它拒絕承認：將這項技術推向世界的只有一小撮人，而引導他們的則是一種（對人類的）控制意識形態和認定機器在各方面都要優於人類的理念。
教宗關於保持道德清醒並開展全社會嚴肅辯論的呼籲，是正確的；但這場討論必須超越空洞的勸誡，並轉向具體的抉擇：對壟斷平台採取反壟斷措施，對與人類互補的人工智能進行公共投資，規範監控和自主武器，並對這些系統所依賴的數據，賦予勞動者和公民實質權利。教宗發聲，使這種回應比以往更具可能性，惟我們其他人也必須挺身而出，捍衛人類。
沒有留言:
張貼留言