「末日鐘」連續第三年維持零時前100秒的邊緣位置。俄烏戰爭大有可能持續白熱化，令戰火蔓延至歐洲其餘地方，更有核化的可能性。過去數年，前所未見的大疫情席捲全球，世上超過6億人口感染新冠病毒，其中有650萬人因而喪生。全球暖化令不少沿岸城市岌岌可危，大有在10到20年以內被淹沒的可能性，這也令不少弱小社群與民族，在地球環境震怒下面臨滅頂之災。人工智能的發展迅速，卻也同時為人類帶來難以理解或掌握的種種隱憂。
我今天立論很簡單：2020年代，將會是人類歷史上一個關鍵「危險十年」。各種存在風險將會在這段時期中浮現，足以左右我們的長遠軌跡。從一個歷史角度而言，這無疑是一個「關鍵分岔」（critical juncture）。往右走，還是往左走，足以影響我們未來一百年的人類生態。我們有必要將這些風險控制減少，但誠然我看不到十年以內在這方面取得進展的可能性。
一、 什麼是存在風險？論存在風險的定義與類別
存在風險（existential risk），乃是應用道德哲學上一個較為創新前衞的專名詞，言簡意賅。本質上，其意指的乃是具備毀滅全球人類存在的潛在現象（風險），能根本性而全面顛覆人類的一切社會結構及生存能力，甚至能扼殺我們在長遠而言的「復甦能力」（recovery capacity），令人類從此從地球表面上消失。絕大多數的存在風險皆源自於自然現象（natural existential risk），包括大型火山爆發、彗星或行星撞擊地球，又或是超大型的耀斑。這些風險事件往往被採納為流行電影的主題，故導致不少大眾認為此乃是「妙想天開」，是離地非常而杞人憂天的假設。但須知道，即便這些風險客觀概率不高[詳情可參考Toby Ord及Will MacAskill等哲學家，又或是牛津馬丁學院（Oxford Martin School）及劍橋大學存在風險研究中心長年累積的研究]，單憑他們發生之時所可帶來的極端災害破壞，便已值得我們正視他們。更甚的是，這些存在風險本身並非人類所構建或促成，而是獨立於人類社會及眾多人為因素，故也不能歸納為「可控」，頂多是「可防」。
然而，隨着人類社會發展、經濟往前推進、整體社會矛盾加劇、新穎科技崛起，地球開始出現各種各樣的「人為存在風險」，當中包括核戰、生化武器的廣泛應用、全球暖化（具爭議性──有不少哲學家並不認為全球暖化是存在風險），以及具備自身意識的人工智能，也即是所謂的通用人工智能
（Artificial
Generalised Intelligence，AGI）。我並不認為提出這些風險因子可能帶來的影響是危言聳聽。我們現時根本並沒有花足夠時間或資源去防止這些問題的蔓延及推展。為何不是讒言？須知道，毋須所有存在風險同時出現，而只需其一在未來出現，便已足以導致全人類覆沒。舉例說，超大型核戰（在核武器的反覆使用下）能在剎那間摧毀特大型城市、令百萬人在高溫輻射灰塵中死亡。強悍的生化武器能感染成千萬上億的人類，導致他們瀕臨滅亡。人工智能也可能因所謂對齊問題（alignment problem）
而「暴走」，進而破壞人類社會基本存活權。
二、 毀滅又如何？論存在風險的道德厭惡性
我們具備強烈的誘因及道德責任去防止或減少存在風險。原因有二：第一，我們若想好好地活下去的話，不能單純地以為這些風險看似很遙遠，便因而視其比「政治紛擾」或「意識形態鬥爭」來得為輕，輕視或漠視這些風險為我們可構成的龐大打擊。掩耳盜鈴很容易，但水退之時，便能看見誰沒穿褲子。無論是蔓延全球的瘟疫、能消滅沿岸地區的巨型海嘯，還是國際大國博弈中所繁衍出的大型熱戰，這些風險說遠不遠，說近不近。第二，若我們具備能力，然而選擇見死不救地拒絕協助現在或未來的人類同胞去避免存在風險、從而間接導致未來生命遭受嚴重損失，此乃是一種極為自私而將自身利益置於他者利益之上的非可論證行為（unjustified behaviours）；就好比你知道你的鄰居若此時出行，將會被一顆從懸崖峭壁上的大石壓死。即使你非大石的「推手」，若一早洞悉到大石落下的可能性而見死不救、不願意伸出援手，則絕對枉為人！
當然，也有個別朋友可能會問，即便世上所有人類皆死掉了，那又如何？難道人類生存是一件好事？有較為消極或反人類的朋友可能會推論，對於大自然或動物界而言，所有人類覆沒，大有可能會讓自然勢力及生物界整體重新恢復平衡，未嘗不是一件好事。可能對於我們來說是存在風險，甚至是存在威脅的負面事件，對於廣泛受人類存活糟蹋及迫害的萬物而言，是一件好事。道德哲學沒有規範我們必須從人類視角去看東西，甚至現代倫理學有不少名家主動敦促我們以「求大同存小異」及「眾生平等」的角度出發，尊重各種非人生命的平等存活權。在這眾多考慮之下，我們為何要執着於人類是否活着、是否生存？也許死亡，也是一種對世界好、對我們自身也好的解脫？
對此，我有四點反駁。第一，人類存在固然為大自然萬物帶來不少負面影響及干預，但單以絕大多數人類對生命的偏好（preference），以及在生存之時所能創造及享受的「效益」（utility），即便我們是從一個效益主義（utilitarian）框架出發，我們也應當支持人類持續活下去，為世界帶來整體的正面效益。同時，我並不認為從一個道德審判角度而言，我們應該「厚彼薄己」，忽略了人生本質的正面價值。第二，即便有個別人士的生命效益淨值乃是負值（名副其實的生不如死），這一點也並非不可避免的。我們可以選擇適應或改變我們的偏好與生活方式，以確保我們自身取態及審判能更為正面地趨向於迎接生命起伏。第三，人類對環境的破壞，並不足以蓋過或扼殺我們在科技及知識層面上的創造，讓我們能以各種各樣新穎方法協助經營及維繫地球長遠發展──比方說，保育工程及現代醫療發明，便是對生物多樣性（biodiversity）的最大保證工具。最後，從哲學家鄂蘭所提倡理論角度出發，人類生活的價值遠不止於單純的「存活」，更是源自於我們獨一無二的政治公眾參與的特質。一個沒有政治參與權的群體，與動物群體無異，也並不足以讓人類具備真正深層次價值；我們的價值，正出於我們在群體生活當中所實踐的政治多姿多采、敢言可言，這也是政治體制趨向成熟的前進道路。
三、風起了：論動態衝突政治的崛起
那為何未來這十年地球很危險？學者預料全速經貿為主軸的全球化時期經已結束，而所謂的「第一世界」與「第二世界」的大國強國，已不能如從前一般再置身在地緣紛爭的「衝突世界」事外。這是動態衝突政治崛起的年代，也即是說，國與國之間雖然仍有所連繫與合作（包括在經貿或資源層面上），但無論是在戰略扼要的產業，還是最為核心的軍事與地緣層面上，不同意識形態及理論體制的國家之間的短暫「友誼」將會急速消退。取而代之的則是逐漸深入而僵化的相互不信任，以及在不同主軸上的競爭、對抗、直接或間接博弈，再配以非常有限度的交流與合作。
動態衝突政治的特徵有三個。第一，半熱不冷的戰爭模式。國與國之間的和平共處將會成為過去歷史（及可能的遙遠未來）。不同利益集團之間將會訴諸武力與暴力作為解決核心利益問題的首選方案，或是以武裝衝突為威脅及恫嚇對方的工具。即便知道劍拔弩張對化干戈為和平的可能有其極大破壞，但這並未能阻止或減退國家使用武力的偏好，除了因為國內眾多軍事工業複合體的既得利益者以外，更是因為若在衝突邊緣前懸崖勒馬，只會「虧」了國內民眾支持度（失去民意）、同時失去在國際層面上的主導權。當然，此一模式並不能被歸納如世界第一、二次大戰那般的「全面熱戰」，出於經濟及貿易等層面的顧慮，大國與大國之間對武力的運用大抵仍會有所克制，除非是在主觀認定的「毫無他選」情況下，又或是針對非大國的中小國家，則並不會貿然動用過強的武力。當然，以下將就着衝突升溫的可能性與邏輯進行分析──全面熱戰的爆發，絕不是遙不可及的「不可能」，而是「可能但肯定不應為」。
第二，國與國之間將會就着這些衝突提供所謂的道德論證──也即是意識形態的操控及賣弄。極端民粹及排外主義是一種關鍵的思維思潮，因為其能夠論證及支撐未必符合經濟實際利益的決策方針（可參考脫歐公投前後充斥英國的反歐盟主義），並能就着任何逆反聲音扣上「叛國」及「媚外」等莫須有指控。同時，昔日的帝國主義，今時今日則可能以所謂的「人權」及「民主」實踐作為包裝，從而推動一種夾雜着道德價值觀與地緣政治利益的偽道德論述。這些種種說法，說得動聽點是一種自我催眠，說得難聽點，則是一種論述加在思想與行為上的綁架，將公民及個人轉化成實踐政治目標與理念的搖錢樹及前哨兵。衝突政治的時代，也是一個後全球化的身份政治年代。
第三，這也是與以下部分有直接關連的──衝突政治讓我們對風險的價值衡量及取態，有所根本改變。人類本質上應當是偏向於減少風險，而不是迎接更高風險。但在意識形態、身份政治、媒體渲染等現象下，人民短中期對風險的趨避，大有可能被包括情感及直覺在內的主觀因素騎劫，讓其自以為風險承受能力比實際來得高很多。結果？人民被所謂的「正確價值觀」驅動，忽視自身行為及取向所帶來的集體風險，過度側重在感受感情上虛無縹緲卻看似真實的進賬。一時三刻這種做法未必會帶來直接後遺症，但長遠後果則絕對堪虞。
四、 雨來了：我們如何離人類滅絕愈走愈近？
隨着過去十多年來的政治局勢演變，環球存在的風險正在急速上漲。我們離人類滅絕愈走愈近。動態衝突政治與存在風險的掛鈎，主要體現在三大範疇上：
第一，核戰與大型軍事衝突的可能性。自1945年以來，便再沒有任何世界大國將核武器直接應用在與他國的軍事衝突身上（無數次在冷戰期間的核戰威脅且當另計）。核震懾（nuclear deterrence）的邏輯建基於各國對核武器所造成的龐大破壞與衝擊之忌憚，令他們如非必要，也不會考慮到動用核武器作終極防衞所用。但隨着大國聯盟朝着「動態衝突」進發，這變相象徵着兩件事：第一，各地民眾對自身主觀認定的風險承受能力有所提高，讓政客也更斗膽地去提出各種有違正常軍事邏輯及克制理論的提議，包括加劇武裝化，將戰事無了期延長（可參見俄烏戰爭，又或是美國入侵伊拉克與阿富汗的近年例子。第二，在極端的「政權合法性守護戰」中，有個別領導人可能會認為自己並無選擇。比方說，深陷在烏克蘭戰爭的俄羅斯，已消耗了大量的兵力。若其確實想在如今對克里姆林宮而言這麼不利的前線情況下，仍要維持一定程度在國內的影響及公信力，普京絕對又可能考慮出動更嚴峻而破壞力與殺傷力更大的核武器。即使我並不認為普京動用核武器的概率會大於10%至15%，但此一概率遠比冷戰後的三十年，甚至冷戰期間的整體概率來得為高。
退一步而言，即便不是俄烏戰爭，在未來國際形勢嚴峻的十年，大有可能在不同的核勢力之間出現擦槍走火。核武器的動用並不一定是一個經過深思熟慮的決定，而可能是任何一國軍方或政府領導層，認為自身必須「下馬威」，為了將戰事及衝突一了百了，而動用的「最後一擊」。但這種思維十分不可取──針對核武器的禁忌一旦被破壞，只會讓各方勢力以「溫水煮蛙」的形式，對動用核武器的門檻逐漸降低。這正會增加全球在核戰下遭受存在打擊的風險。
第二，就着包括全球暖化及生化風險（biohazard）在內的環球性問題的合作，有可能因這種動態衝突中的零和思維，而因而告吹。理性務實的外交思維，驅使我們必須能夠將不同領域及範疇「細分」（compartmentalise）
起來──也即是說，我們不應，也不能讓個別領域上的分歧及差異，導致我們在其他領域上也不相往來。這種絕對主義上腦的作風，只會讓一切可能的合作也被迫中斷。可惜的是，隨着本土國粹情懷高漲、政客自以為憑着自己國家的優勢便能獨善其身地避免受全球暖化或大規模傳染病影響、人類對科技所帶來的正面效益信心日益增長，這些因素皆令我們過度自負，忽視了我們絕對需要與他人（尤其是發展中國家）合作共享資源，共同抗衡全球暖化與生化風險等的危機。
我懼怕的，正是現時上演的一幕幕：政府與政府之間就着氣候變化的溝通與合作，在政治及意識形態的爭執下，被擱在一邊。本來應當是以科學思維聯手處理及調研的新冠疫情，卻變成了某些別有用心之士用來渲染去攻擊別國的工具手腕。公民社會之間的對口及對接，在政治氛圍如斯惡劣的情況下，難以為繼。反對國際多邊主義及合作的聲音不斷抬頭，讓苦苦支撐着非牟利機構及國際峰會論壇的「國際化」聲音不得不步步為營。個別國家麥卡錫式的「反間諜」、「反滲透」行動，讓地球村中出現歇斯底里的相互猜疑及仇恨。這些種種變化，皆令我們難以就着以上這些存在風險落實妥善而全盤的解決方案。
第三，我們至今一直忽略的「黑天鵝」，其實是近二十年來發展迅速的人工智能。人工智能研究學當中，有「強人工智能」（Strong AI）與「弱人工智能」（Weak AI）之分。前者指的，乃是具備或甚至超乎人類思想、認知、溝通、組織能力的人工智能；後者則是，如現時所有的人工智能一般，仍未能全方位模擬及取締人類。有不少論述皆表示，我們離「強人工智能」依然很遠。前Google中國第一人李開復曾公開表示，其認為所謂的「強人工智能」，本質上根本難以在短中期內實踐，我們毋須多慮。也有其他名家認定，人工智能若要如人類一般具備自身獨立思想的能力，仍需要在科技層面上的多次突破，以確保其能夠在有限的實體空間中擁有足夠的龐大運作效能，從而發展出如人一般的技能與反應。
但我並不這樣想。早前跟一眾從事人工智能哲學研究的尖端研究員交流時，他們跟我說，最為直接而能有效地達致「強人工智能」，也即是我以上所說的AGI，只需要我們具備成熟的三維複製與打印技術，準確地將我們腦袋掃描，然後按照這腦袋結構建構出一個虛擬體。形而上學哲學中所謂的虛擬腦袋（simulated brain），與此正有異曲同工之妙。而實際上，假若我們確實繁衍出能夠自給自足而自行進行行動的人工智能，我們並無任何方法去確保其會乖乖地依從我們的指令命令行事。也難保這些「強人工智能」不會對人類感到厭倦，甚至將我們認定為它們的存在風險與威脅。在這前提下，我們又怎能擔保人類與人工智能之間能和睦相處？
博友可能會認為寫到這裏，我是想太多了──這些新科技的演變，歷史上屢見不鮮，我們毋須多想多慮……但這種說法，完全低估了：第一，「強人工智能」可能帶來的並非「量」或簡單的「質」層面的突破，而是一種顛覆性的範式推翻（paradigm revolution）；我們根本並沒有足夠的認知或能力去處理其所帶來的潛在危機。第二，也是回歸以上我們的討論。如今地球諸侯諸君似乎認定對方便是自己的最大挑戰，在人工智能及嶄新科技上不斷地進行各種各樣缺乏監管的「破格」測試，為求在所謂的「全球科技戰」層面上取得壓倒性優勢及勝利。在這種氛圍下，又有何人會認真地思索人工智能的潛在禍害與約束？
五、結語
正如周星馳在《少林足球》中對趙薇所說，「你還是回到火星，地球是很危險的。」
但我們不能回去火星。
我們生於斯、長於斯，甚至死於斯。這是我們的地球，也是我們的家園。在星際旅行徹底流行前，我們除了堅持下去，則並沒有任何實際的選擇。我們沒有執着於意識形態與形式主義的權利，更沒有搞單邊主義、排外主義、霸權主義的空間。一名負責任的政客可能永遠都會視自身民眾為唯一唯二值得保衞的人民。但我們需要的並非優質政客，而是具備舉世情懷的領袖，能看見自身行為對他國他者所構成的嚴重打擊。
為何不應搞科技新冷戰？為何不應以零和思維及行為處理國際關係？為何我們此時此刻更需要國際合作，而不是盲目脫鈎或排斥他者？正因為上至國家管治者、下至每一位老百姓及平民，我們都具備守護人民存在（human existence）的基本責任。我們沒有他選，也不應存有任何遐想。
