我工作是為了樂趣 比爾·蓋茨
過去這一年，人工智能（AI）技術的進展速度令人震驚。從編寫代碼並自主發現網絡安全漏洞，到在生物學領域進行複雜推理，再到與兒童或普通人建立深度的情感連接，以及對就業市場造成的實質性衝擊──如今模型展現出的強大能力，意味着上述每一個領域的變革都已不再是假設，而是必然發生的現實。
然而，整個社會對此做出的準備和響應速度，遠遠跟不上挑戰到來的節奏。我並非一個末日論者，但我必須大聲發出提醒：如果我們不能以正確的方式去治理，AI帶來的負面效應將無法被最小化，而它本應帶來的巨大社會紅利，落地過程反而會被拖得很慢。AI已經成為人類有史以來發明的最危險、影響也最深遠的技術，它將對經濟運行和未來衝突的形式產生徹底的重塑。
從OpenAI當年創立時防止「打開潘朵拉魔盒」的初衷，到DeepMind早期對治理的訴求，凡是離底層核心技術最近的人，無一例外都在高度擔憂技術濫用、就業衝擊以及人際關係的異化。一個行業的內部從業者能如此直白地站出來提出警示，這是極其罕見的。這絕非什麼公關或營銷策略，而是技術圈內部的客觀共識。
遺憾的是，行業之外的大眾和政策制定者往往對此缺乏足夠認知，甚至習慣性地對照歷史經驗說：「以前每次重大技術變革，大家也都擔心衝擊，最後不都沒事嗎？」這種將警告視為危言聳聽的心態，是對現實風險的嚴重誤判。
我們正在構建的是一種獨立於人類智能之外的新型智能形態。過去，發起毀滅性破壞的能力只掌握在極少數大國手中；而現在，技術在客觀上正在把製造生物恐怖主義或發起大規模網絡攻擊的能力，擴散給獨立的極端團夥。面對如此強大的新型智能，我們該如何在技術和制度上雙管齊下？
首先，我們不應把精力浪費在無謂的哲學爭辯上。如何定義AGI（通用人工智能）、模型到底有沒有「意識」或「道德地位」，對於當下要解決的安全問題而言並不關鍵。
尤其在制度層面，由於國際博弈與跨境核查的難度，指望通過全球多邊協議來實現「同步研發降速」目前看來並無可行性。同時，認為單純依靠事後的民法或侵權責任法就能管好開源大模型，在去中心化的匿名毀滅性攻擊面前更是形同虛設。
因此，唯一的破局點在於主權政府必須承擔起監管職責。就像對待汽車安全或民航飛行一樣，一旦市場上出現多個競爭主體，安全就絕不能僅靠企業自律。制定規則不需要監管者自己會寫大模型，核心在於看清技術事實：這套工具能不能被用來癱瘓銀行系統或國家電網？
具體而言，監管的落點不應是物理芯片，而應是「軟件託管與分發平台」。政府應通過立法確立明確的技術指標：凡是綜合能力達到特定高危閾值的前沿模型，絕不允許被剝離安全監控、以原始代碼形式隨意複製到個人終端上運行。
一旦監測到底層操作試圖剝離安全防護邏輯，平台必須予以強制阻斷。這不是要封殺開源創新，而是對高危工業品實施必須的安全鎖定。
傳統經濟學裏，工作不僅提供收入，還承載着個人的價值感、社交連接和生活目標。但隨着AI逐步具備超越人類的智能，所有傳統白領技能的「稀缺性」都在迅速歸零。從基礎的電話銷售、技術支持到財務做賬，AI能以極低成本、極快速度和極高準確率完成任務，大量傳統崗位需求正在物理上消失。甚至連高階認知領域的界限也被徹底打破。
資本主義本身就是一個遵循強化學習邏輯的龐大反饋機器：只要一項經濟任務的產出能被客觀衡量，資本和算力就會迅速進場將其優化替代。
不僅是白領，隨着全球（尤其是中國）頂尖團隊和巨額資本在人形機械人領域的全力投入，解決靈巧手和低成本物理勞動的工程落地只是時間問題，藍領的體力勞動也將很快被重塑。
與此同時，技術紅利的落地卻存在明顯的「時間差」。AI憑着處理高維度生物數據的優勢，未來5到10年有望通過數字化虛擬模型精準預測藥物不良反應，大幅縮短臨床試驗周期。但普通人要直觀感受到醫療賬單和生活成本的大幅下降，仍需漫長的周期；而網絡防禦失衡、崗位快速流失等負面衝擊，在未來兩三年內就會產生實質影響。
如果把時間尺度拉長到20年後，當人形機械人能大規模低成本建房、實施高精度手術、攻克致命疾病時，人類有望徹底消除物資匱乏，邁入「超級豐裕時代」。但我最擔憂的，恰恰是接下來的這20年過渡期。
在這20年裏，原有的職業價值體系迅速瓦解，利益分配極其不均，社會將經歷劇烈的震盪。我們必須安全度過這20年的轉型期，才談得上享受豐裕社會的成果。
在今天這個對傳統建制和精英信任度處於低谷的時代，我深知自己是一個並不完美的建言者。我這一生犯過很多錯誤，也有自己的認知局限，人們完全不應該盲信我的每一句話。但我在軟件和計算領域待了一輩子，親手寫過代碼，親眼見證軟件如何改變世界。
我參與這些討論沒有任何個人商業利益驅動，只是作為一個深知技術破壞力的老兵，憑藉僅存的一點公信力，履行把潛在風險講出來的基本責任。
綜觀人類文明史，我們絕大部分時間都在與食物匱乏、惡性傳染病和戰爭苦苦抗爭。AI的到來，正在把困擾人類數千年的「物資匱乏」推向歷史終點，但也無情衝擊了傳統分工賦予人類的獨特價值感。
面對這場歷史上最波瀾壯闊、也最風雨飄搖的20年轉型期，如果你今天正處於二十多歲的年紀，我的建議是：去深入那些AI短期內依然無法勝任的領域，學會把AI作為放大個人意志與創造力的工具，並積極投身到社會政策與規則的構建討論中去。
人類社會完全可以學會在某些領域保持克制，學會在人與人的真實協作與關懷中重新錨定自我的意義。
沒有留言:
張貼留言