AI損人類自主

速度即力量

AI損人類自主

人類文明不斷進步。什麼是歷史發展的動力？不同學派提出不同答案，有認為是生產力，有認為是戰爭，有認為是科學以及其產生的科技。這幾百年來，人類文明飛躍進步，始自工業化和現代化，兩者都是科技發達的成果。

法國哲學家保羅維利里奧（Paul Virilio, 1932—2018）同意科技影響最大。上世紀電腦與互聯網誕生，本世紀發明Al，人類邁進一個新時代，而速度正是Al時代的主要動力。維利里奧獨創「速度學」（Dromology），新詮釋政治史、軍事史與城市史為速度的博弈。他在《速度與政治》（Speed and Politics）書中指出，速度是推動人類文明發展、改變人類心靈智能和生活方式的力量。他寫道：「絕對的速度也就是絕對的力量。換言之，絕對且即時的控制，是近乎神聖的。人類今天已成就了3個神聖性質：無處不在、即時的（Instantaneous）、無所不知又無所不能。」

人類戰爭由冷兵器到熱兵器，由機械化到智能化，如今踏入信息化時代，已說明了維利里奧所云：「歷史進步的速度，就是武器進步的速度。」現代的超音速飛彈與網絡戰爭，取決於誰的武器、補給、情報傳播等速度更快，誰就控制戰局。當網絡光速傳播資訊，傳統地理邊界和距離已毫無意義，傳統空間觀念亦已徹底解構，全球化的地緣政治，變成一場沒有傳統戰場、只比併誰更快的速度戰。

監控無處不在

在資訊光速傳播的時代，影像和話語壓縮了文字和寫作的空間。維利里奧認為，文字和寫作的敵人並非影像和話語，而是手機屏幕。在屏幕可以聽到和看到即時、實時發生的事件，引起受眾的情緒反應。寫作則是在「延後時間」（Deferred time），寫作的作者在明，實時的作者在暗，他隱藏在影音背後的拍攝者，令人不易察覺其意識形態及偏見。往昔，輿論讚彈多是在「延後時間」，如今卻大多在網民於社交媒體上的即時評論。

在傳統社會中，法律與監控是在「延後時間」的。你犯了罪，警方調查後才逮捕你。但Al的即時監控已達到無處不在、無所不知的地步。維利里奧形容，現代社會逐漸成為「速度利維坦」。利維坦是《舊約》中象徵絕對力量的海怪。英國哲學家湯瑪斯霍布斯（Thomas Hobbes, 1588—1679）在1651年出版的《利維坦》（Leviathan）書中，將國家機器比喻為利維坦。統治者保障人民安全、社會穩定、經濟繁榮，人民就交出權力絕對服從統治者。這是現代政府與人民訂立的默示契約（Implied Contract）。

維利里奧害怕的是，在追求極速的過程中，人類讓國家機器擁有無所不在的監控權，將逐漸喪失對社會和自己命運的掌控權。過去監控（如檢查站）是顯眼的，可能激起人們反抗；Al監控卻是難以察覺且無感，街頭裝了無處不在的人臉識別攝錄器，不再只是攝錄影像，而是讓Al以光速分析與識別。維利里奧指出，在智能城市，每個角落都已絕對透明，隱私所需的陰影與死角徹底消失。

如今，人們為了科技帶來生活上的種種便利，如電子支付、預約政府服務、網約車等等，自願置於各式各樣的監控中。維利里奧最恐懼的，並非人類追不上Al和機器的速度，而是人類因此失去判斷力和決定權。當你由Al助理安排旅遊行程，它瞬間為你編排性價比最好的機票、酒店、食肆等等，你還會花時間懷疑、質詢Al的決定嗎？你還會去探險式旅遊嗎？你會覺得失去了生活的自主權，像電影《摩登時代》中被機器餵食的差利嗎？

習慣被動服從

維利里奧警告，人類會逐漸習慣處身於不自覺的被動服從狀態。網路與Al發展並非進步，反而促成人類向科技無條件投降，人類由控制機器，降格至只可被動接收（廚師發辦便是典型例子），唯一主動和能動的僅是提示和選擇。如今，數碼企業不斷宣傳「科技命定論」（Technological Determinism）：發展Al是歷史潮流，不可抗拒。人類不單不可走回頭路，乃至不可拖慢Al發展速度，只能適應Al引起的社會制度、文化、價值觀、心智和生活方式的大變。時人真是如此無能為力嗎？

科技總伴隨意外

二戰後西方有句話：「凡是可以出錯的事，就一定會出錯（Anything that can go wrong will go wrong）。」這便是著名的梅菲定律（Murphy's Law）。它並非科學或物理定律，而是「光棍佬教你：便宜莫貪」式警世箴言，旨在提醒世人：世上無百分百安全的東西。

想不到維利里奧卻將梅菲定律發展為意外的哲學。他在《原初意外》（The Original Accident）書中指出，任何新發明的科技，都同時創造其獨有的意外。發明火車，會衍生火車出軌；發明飛機快艇，就會製造空難海難；發明油輪，造就石油洩漏，污染海洋；發明核電廠，就會有切爾諾貝爾式洩漏放射性物質；發明電腦與互聯網，網絡攻擊和網絡戰便由此誕生。

系統性失控難免

意外發生後，主事者總稱為個別事故，歸咎人為失誤，只要汲取教訓，改善科技，加強培訓人手，制定更嚴格的操作守則，意外便不會再發生。維利里奧卻指出，意外是科技的孿生兄弟、是技術「內在不可分割」的部分。意外是技術持久運作的必然產物。主要原因有二：一是技術故障，二是科技始終需要人手監督，而人終究會疲勞，疲勞會導致疏忽，覆核時看漏看錯，於是，意外就無可避免。

意外有輕微、局部、範圍不大的，如火車出軌、飛機空難。如今及將來，愈來愈倚重Al高速處理海量決策，而只有人把守最後安全防線的話，就無法預防維利里奧謂之「總體意外」（The Integral Accident）。這種意外沒有邊界，瞬間發生，如全球網路癱瘓或Al集體失控等等。Al愈進步，「總體意外」就愈可能發生，災難範圍就愈廣，規模就愈大。

維利里奧並非主張放棄科技。他只是警告數碼企業和Al科學家，不要過分崇拜科技。但他也很悲觀，認為一場前所未見的「總體意外」遲早會發生。