焚書坑儒

AI焚書了 離「坑儒」還遠嗎?

讀着中國歷史長大的人，大都聽過「焚書坑儒」的典故，象徵權力對知識與知識人的壓制，也提醒後世，必須對不受約束的權力保持警惕。正如薩依德所言，知識分子的天職，是在權力面前講真話。然而，時至今日，能夠「焚書」的不僅是權力，資本同樣可能作惡，甚至同時具有「焚書」與「坑人」的威力。兩年前出現Anthropic「焚書」行動，即其「巴拿馬計劃」Project Panama，涉及批量購買和破壞性掃描數百萬冊實體書籍，掃描完成後即將原書粉碎銷毀。這一行動引起了廣泛的輿論和法律關注，因為它涉及到對著作財產的侵犯和對文化遺產的破壞。近日法院裁定，企業合法購得紙質書後進行破壞性掃描並銷毀原件，屬於「合理使用」。然而，這一做法引發了對於知識權和文化遺產的深刻思考，並可能對未來的科技和文化發展產生影響。

AI本身只是一門技術，可用於提高效率，究竟為益還是為禍，取決於社會制度的設計。目前AI企業間的競爭，已演化出「焚書」行為，未來國家與企業為爭奪AI領先地位，還需要耗用多少社會資源，以至犧牲人民福祉，都值得警惕。

「巴拿馬計劃」暗渡陳倉

把時間撥回約兩年前，AI發展如火如荼，Anthropic啟動了一個內部代號為「巴拿馬計劃」的項目。這個代號充滿隱喻，巴拿馬運河讓船隻不再繞行南美洲，連接太平洋與大西洋；「巴拿馬計劃」同樣企圖為AI公司開闢一條捷徑，不逐一與出版社談判，也不逐一向作者取得授權，而是大規模購入市面上的實體書。

Anthropic為此聘請曾負責Google圖書合作夥伴事務的資深人士，任務簡單直接：取得盡可能多的書籍。公司大量購入實體書，用機器裁去書脊，將散頁送入高速掃描器，逐頁數位化，掃描完成後，原書便送去銷毀。根據訴訟解封的內部文件，公司刻意使用內部代號，也不希望外界知道計劃內容。顯然，自稱要確保AI「與人類價值觀保持一致，確保有益、無害、誠實」的Anthropic，亦知道該項目「有用、有害、邪惡」，並不光彩，刻意保持低調和保密，宛如諜戰般的秘密項目。

更教人吃驚的是，Anthropic的「焚書」行為並未被法院認定違法，法院認為逐本把合法購買的實體書轉換成數碼副本，可以構成合理使用。真正令Anthropic付出15億美元代價的，是公司涉嫌從LibGen等盜版來源取得逾700萬冊電子書。換句話說，法院認定的侵權風險，不是銷毀書籍本身，而是使用沒有合法取得的盜版檔案。合法購買後銷毀，反而獲得了法律保護。

近期的報道顯示，市面上已經出現專門為AI公司提供大宗採購服務的中介機構，部分交易規模可達數十萬以至上百萬冊，並為委託的AI公司保密身份。這類機構甚至建議客戶將這種行為稱作「數碼保存」，以規避負面觀感。與此同時，有報道指出，部分舊書、絕版書，甚至難以補購的罕見版本一旦捲入其中，一旦銷毀便永久消失，無法復原。Anthropic「焚書」被廣泛報道後，即使在AI業界也引起爭議，馬斯克其後在社媒X表示，「已經要求SpaceXAI團隊保存圖書館中所有珍貴的書籍，並採用無損掃描方式，從而避免破壞書脊。」

AI軍備競賽恐導向世界大戰

回望歷史，各國政府與AI企業之間的競爭，某種程度上與冷戰時期的軍備競賽具有相似邏輯。當年美、蘇兩國把大量資源投入核武與太空技術，如今各國政府與科技巨頭則把資本、人才與能源，源源不絕地投入AI模型的訓練與算力建設。技術不同，底層邏輯卻頗為相似，動員愈來愈多公共與私人資源，賭一個未來。

然而，AI淘汰舊行業的速度，遠比創造新就業的速度要快，在舊崗位成片消失之際，新職位卻曙光未現。支撐眾多AI企業高估值的因素，除了業績，更多是對未來的想像與憧憬。近期AI相關股份在多地市場出現股價調整，也反映市場開始重新審視AI目前創造的實際價值。

近二十年來，以互聯網科技為代表的新經濟，均採取高速擴張、延後盈利的模式，先搶佔市場份額，以不斷擴張的市場份額換取高估值，哪怕持續虧損也在所不惜，直到「贏者全拿」（winner takes all）。AI產業也正在重複類似路徑。

但這次與眾不同，AI在未來確實是全面覆蓋的產業，無所不包，因此國家之間的比併，將持續吞噬能源、資金與人才。而且AI企業之間的競爭長期持續，國家與企業為保持領先優勢，又勢必將大部分收益迅即再投資到產業當中。因此，雖然創造了財富，但社會能否從中取得足夠的稅收、就業與公共利益，並非自然而然。而「贏者全拿」是否真正到來，仍是未知之數。

最悲觀的結果，可能就像第一次世界大戰前的全球軍備競賽，各國花費巨大資源建立武裝到牙齒的武力，最後因已投入高昂成本，需要實際應用、向國民交代的誘惑，導向世界大戰。目前AI應用在軍事上愈加普及，例如彼得．蒂爾共同創辦的Palantir正是美國用以委內瑞拉、伊朗斬首行動的重要助力。

AI軍備競賽將伊於胡底，無人能知。另一方面，AI固然有「坑人」之危，更深層隱患卻可能是現代版的「坑儒」。AI技術本身也存在不少尚未解決的缺陷，「幻覺」問題就是其中之一，AI模型有時會一本正經地生成看似合理、實則錯誤甚至完全虛構的資訊，倘若使用者未加查證便直接採信，便可能造成實際損害。例如，2024年就有加拿大航空的AI客服，因為錯誤告訴乘客，可以在完成旅程後追溯申請喪親優惠票價的退款，乘客按指示購買全價機票，事後申請退款卻遭拒絕，審裁處最終裁定，企業不能以AI是獨立系統為由推卸責任，仍須為網站提供的錯誤資訊負責。

近年AI模型的準確度雖有所改善，但可靠程度仍未足以令人完全放心。另一方面，AI模型在公共議題上出現偏差，影響範圍往往更加廣泛。2025年5月，馬斯克旗下xAI公司開發的聊天機械人Grok，一度對使用者的提問給出質疑納粹大屠殺600萬猶太死難者的歷史共識，甚至稱這場種族滅絕的死亡人數存在「學術爭議」。這些回應透過X平台快速傳播，引發社會嘩然，事件其後被歸因於未經授權的程式修改，公司於隔日緊急修正，並表示將強化防護機制，避免類似情況再度發生。這類案例說明，AI一旦在敏感議題上出現偏差，錯誤資訊往往能夠以極快的速度觸及大量使用者，造成大規模輿論風波。

除了網絡語境中戲稱的「坑人」，也就是廣東話所說的「靠害」，AI真正令人擔心的，是可能扼殺年輕人發展的機會。AI加速普及後，不少企業開始削減初級職位，即便是美國名校如哈佛、麻省理工畢業的軟件開發師，在當今也不容易找到工作。企業把更多資源投放到AI應用上，把原本交由初級員工處理的工作，改由少數資深員工配合模型完成，短期內固然降本增效。然而，任何人才都需要在實際工作中逐步成長，削減初級職位或許能收一時之效，但長遠而言，企業也會逐漸喪失造血能力，在現有資深員工老去後，就無以為繼。

毋須背負罵名 只需付律師費

AI一方面獲得巨量社會資源，另一方面以飛快速度淘汰舊有崗位，卻未必按比例創造足夠的新入口。同時，AI企業與其社會影響力相應的道德責任、法律規範和公共監督仍未成熟。

回顧人類文明歷史，技術進步並不必然帶來更美好的生活，十八、十九世紀工業革命推動生產力飛躍之時，倫敦變成「霧都」，唐寧街10號原本的黃磚，也被長年煙霧與污染熏得漆黑，大量工人在惡劣環境下承受工傷、疾病與超時勞動，難以公平分享經濟增長的成果。直到工運、社會主義思潮、公共衛生改革與勞工立法逐步興起，勞動條件才逐步改善。

古代焚書，靠的是政令與刀劍；如今焚書，靠的可能是資本、掃描器與法院判決。手段換了，對文化價值的漠視卻未必改變。過去的統治者要背負千年罵名，如今的企業只要付得起律師費與和解金，便可繼續講述AI改善人類生活的美好故事。

面對AI這個「第四次工業革命」時，我們還需要保留工業革命留下的歷史警惕，既擁抱技術發展，亦要確保技術真正用於改善大多數人的福祉。

只希望後世閱讀這段歷史時，莫再替AI說什麼「焚書事業待商量」的鬼話，但願「夜半橋邊呼孺子，人間猶有未燒書」。