接管人類思考與決策
過度依賴AI 恐淪科技奴隸
人類9400多年來都活在匱乏當中,直至工業革命後發明各種機器和科技,才踏入大量生產、「衣食足」的時代。人類每一個新發明,都使人萎縮或喪失一種技能,英裔美國哲學家和作家、紐約大學哲學和法學教授奎邁安東尼阿皮亞(Kwame Anthony Appiah,1954—)在The Age of De-skilling一書中稱之為「去技能化」,但當人類過度依賴 AI,甚至帶來「構成式去技能化」,人的「本質」就會萎縮甚至喪失。
柏拉圖在《斐德羅篇》(Phaedrus)記述,科技之神發明了文字、獻給國王,指有了文字保存知識,人會變得更聰明。國王反駁:「發明技術的人,並不等同於能評估該技術利弊的人。」有了文字,人的記憶力會衰退,言說質素下降,辯證能力萎縮,乃至吸收的知識多了,便以為自己博學;此所以蘇格拉底畢生述而不作。
國王說對的是,未有文字時,人類有的是口語文化,文字使人類進入書寫文化,兩種文化的差別,本文不述;錯的是,文字和書寫文化促進了文明的發展。換句話說,每一次的「去技能化」都提高了人類的生活水平。
去技能化喪失本質
舉例:有調查顯示,19名內窺鏡醫生得AI協助,為逾2000個病人做大型大腸鏡檢查,「腺瘤偵測率」(ADR)的確比純用人偵測提升了;3個月後,該19名醫生不用Al協助做大腸鏡檢查,ADR竟下降了6%。長此不用AI,內窺鏡醫生的偵測能力會否持續下降呢?未有進一步調查,無法確定。令人擔憂的是,有朝一日沒有Al協助,內窺鏡醫生會否難以準確偵測呢?若然,那AI有異常或出錯時,內窺鏡醫生能否發現呢?
Al帶來的並非過去簡單的「去技能化」,而是阿皮亞說的「構成式去技能化」(Constitutive de-skilling)。以往的工具:卷軸、書籍、報章、雜誌等等,改變了人類儲存記憶和知識的方法、思考和溝通的方式,但只增不減人類的思考、感知和想像的能力;Al不同,它不單儲存的資訊和知識遠比人類豐富,而且它還會介入我們的思考、創作和決策,影響我們對某件事情的判斷。當我們要AI協助,它不再是客體,而是主體,就如奴隸主把勞動和生產交付奴隸。阿皮亞還表示,當人類過度依賴AI,由AI「接管大部分思考」時,亞里士多德所說「人之所以為人」的「本質」,就會萎縮甚至喪失。
阿皮亞擔心,當人愈來愈「構成式去技能化」後,「這不單會改變我們如何工作,甚至會改變我們是個怎樣的人。」如今,人類有4個選擇:
一、與AI或機械人協作,但保持人類的技藝,快速和準確的配合Al;
二、當監控員,先由AI或機械人執行任務並做出決策,人在旁監督其運作,一旦發現AI或機械人異常、出現問題或錯誤時,迅速介入,解決及修正它,若未能糾正錯誤,後果可能比人出錯更嚴重。
三、當創新者。在AI或機械人沒有充分知識的領域,例如道德判斷或制定新法律時,人類就要發揮創意;AI不是另一個愛因斯坦或圖靈,尚須人類「跳出框框思考」提出新問題、新研究、新知識和發明新科技。
四、保存傳統匠人和藝術家的技巧。AI或機械人可以模仿梵高,但不會成為另一個梵高、荷洛維茲、希治閣或草間彌生,甚至不可能是另一個名廚。AI或機械人只可以令人生活更便利輕省,但人類要得到幸福,還需要文化、藝術、情與愛、精神生活乃至提升心靈境界,這些都不是AI可以提供。
守護判斷力想像力
阿皮亞指出,無論選擇做那類人,都必須守護「人之所以為人」的判斷力(Judgment)、想像力(Imagination)與理解力(Understanding)。人的判斷,並非純工具理性的計算成敗得失,還會作出道德和價值的抉擇;AI僅在已有資料框架內進行模式匹配,人具備打破成規、無中生有的想像力,以及構想新意念的能力;理解力指判斷一件事情意義的能力。人類要經常使用此3種力,才能成為AI的管理人(Steward),疏於或放棄使用此3種能力,其「本質」就會萎縮甚至喪失。
在人機協作的時代,資訊和計算能力爆炸,技能只會不斷貶值,職業再不能成為身份認同。人類若失去「知道什麼真正重要」(Know what matters)的能力,就會淪為科技的附庸乃至奴隸矣!
腐蝕知覺
英國AI倫理學家與法律專家,現為倫敦國王學院講座教授希爾維德拉克洛瓦(Sylvie Delacroix)警告,人類過度依賴LLM(大型語言模型)和AI分析問題、提出建議和決策,會帶來兩個嚴重後果:
「規範性思考」是指我們面對價值與道德抉擇時,會思考「我應該怎樣做」,然後作出判斷及決定,小事如應打機或溫習功課,大事如應否轉工或離婚,均需要「規範性思考」才做決定;知覺指我們通過視、聽、觸覺等感官,接收、組織和解讀大自然、社會環境以及他人的資訊的能力。
德拉克洛瓦將人類的「規範性思考」能力比喻為「規範肌」(Normative Muscles);我們日常生活中,無法避免使用「規範肌」,不然,我們就是俗語所謂「無腦」的人。當我們習慣了將分析、判斷、決策外判給LLM與AI的演算法時,便失去了鍛煉「規範肌」的機會,久而久之,導致「規範性思考」能力退化。
Al如何選取資料、分析、邏輯推理、得出結論,整個過程透明度低,令人不易檢測是否可信,亦難以反駁。此外,AI速度遠超人類,一兩分鐘已完成分析,給出單一、毫無歧義、邏輯嚴密的答案,乃至寫好一篇文章,人類無法匹敵乃至質疑,就容易如德拉克洛瓦說的「認知投降」(Cognitive Surrender),不假思索即完全相信了Al。久而久之,人放棄了自行求知,想得到什麼資訊便問Al。人一旦遇上一些不確定或前所未見的情況,如道德的兩難時,往往是人類發揮原創力與反省深思的契機。問AI,它給出的分析和答案,只會鏟除任何不確定性。久而久之,人類會「知覺萎縮」。
德拉克洛瓦指出,LLM和AI不單止帶來職場的「去技能化」,更腐蝕人類的「規範性思考」、知覺與創造力。







