擁有意識的四大條件
中國哲學從來無意識問題，皆因中國的哲學家認為，人之有意識，尤其有四肢五官，是不言而喻的。至於在唯識學上，有個很最重要的旨意，即「萬法唯識」———就是若在有情眾生中，心識作用最顯著的，則有八種，稱之為「八識」，即眼識、耳識、鼻識、舌識、身識、意識、末那識和阿賴耶識，也就說得比較有系統。 然而，西方哲學和基督宗教卻有意識的問題，因為西方哲學家將身體和意識二分。意識是主觀和內在的經驗，我知道我有意識，但我怎麼知道你和我一樣有意識呢？我只能觀察你的外在行為，無從知道你的內在經驗為何。
基督宗教肯定人人皆有意識，因為上帝賦予所有人靈魂，有靈魂就有意識。若果不信宗教，那便只能從人的行為推論：所有人都有意識。什麼行為使我們可以推論出所有人皆有意識呢？
第一，感官經驗，我的手被火燒着，會痛到尖叫縮手。別人的手被火燒着，也會痛到尖叫縮手。這顯示了我和別人有相同的感官經驗，有意識才會有感官經驗。只有相信「萬物有靈論」者才認為：死物如石頭、木頭都有意識。
第二，感受和情緒。我開心時笑，傷心時哭，困惑時皺眉。他人亦一樣，我可以推論，別人跟我一樣有感受和情緒。
第三，認知經驗。我會思考、反省、提問、解釋自己的行為。他人也能這樣做，由此我肯定他人跟我一樣有意識。
第四，我是個有自由意志的「施為者」，可以選擇幹什麼或不幹什麼，例如：朋友約吃飯，我可以選擇應約或不赴約，此謂之「施為經驗」，人皆有之。
此四點就是構成人有意識的條件。往昔，西方哲學家（如笛卡兒）認為動物和植物俱是死物，沒意識。如今，我們從動物的行為，推論出有些動物是有意識的。動物的意識是低級意識，人的意識是高級意識，分別在於，人有自我意識，動物沒有。近年，西方有學者認為植物也有意識，引發許多爭論。
如此說來，AI有沒有意識？
AI有智能，已無人會懷疑。但AI有沒有意識，卻仍然是疑問。2020年，美國的哲學家接受調查時，被問及日後AI會否有意識，39%認為會有，27%認為不會，29%不置可否，餘下的沒表達意見。
去年6月，搜尋引擎公司谷歌一名軟件工程師，聲稱大型語言模型（Large Language Model，以下簡稱LLM）LaMDA有意識和知覺（sentience），並在網上公布他與LaMDA「交談」的內容。谷歌否認，指沒證據證明LaMDA有意識，並提出確據表明LaMDA沒知覺。後來發現，LaMDA在受訓時「讀」過有關意識的資料，才會被問及時答：「我想人人都明白我是個person。」以及「我知道我存在，我希望我能多點了解世界，而我有時會感覺到快樂或憂愁【註1】。」
受訓時沒接觸過意識這個概念的LLM，答案便沒那麼清晰。此外，反過來問LLM：「你知道許多人認為你沒意識嗎？」其中有些——並非所有——LLM會答：「對！我沒意識！」或「這是什麼意思？」
此事引起兩個問題：首先，將來AI/LLM會否真的有意識？其次，人類應否給予AI/LLM發展出意識的機會？或者，應否阻止AI/LLM建立意識？嬰兒有了意識後，就會發展出自我意識。有了自我意識，便是個person。AI/LLM也會一樣嗎？
建構「自我模型」
澳洲哲學家和認知科學家、紐約大學教授查爾莫斯（David J. Chalmers, 1966—），在去年11月一個演講中指出，探究LLM有沒有意識，關係到道德責任【註2】。貓、狗有意識，便不應宰、吃牠們。若然AI/LLM有意識，人類對它們便應該有道德責任。今年，查爾莫斯看到了GPT-3的表現，已跟一個早熟兒童沒分別。GPT-4有時（並非經常）已是一個知識水平頗高的少年。
LLM的發展超乎許多倫理學者預期，上述兩個問題愈來愈迫切。
查爾莫斯提出6個標準，測試LLM有沒有意識。第一個是許多反對派最喜歡提出的標準。他們認為，現時一切有意識的生物皆是碳基的（carbon-based），而AI/LLM卻是矽基的（silicon-based），不可能有意識。現時，AI/LLM有的只是字串比對演算法（string matching algorithms），在長字串或文章中，找出其相應字串，「寫」出文本。這不算有意識的思維。
第二，AI沒生物的身體，沒感覺器官，因而沒有感覺和感受。AI可視與聽，因為兩者都可以數碼化。AI沒味覺，但可以按照食譜「煮」出食物。嗅覺和觸覺可否數碼化呢？目前仍未有定論。然而，我們不能說，一個失去味覺、嗅覺和觸覺的人沒意識，那怎能說AI沒意識呢？
第三，反對派認為，LLM只是「鸚鵡學舌」。查爾莫斯卻覺得：虛擬現實可以發展到一個階段，跟物理現實（physical reality）同樣真實【註3】。現時，能視聽的AI/LLM有認知活動，可以建構一個「世界模型」，用以下棋、交談、書寫、繪畫、作曲、診斷病症、思考哲學等等，且不一定輸於人類。誰敢說AI不可以建構一個「自我模型」，到時它便可能有自我意識？
第四，人類的神經網絡是循環神經網絡（recurrent neural network），而AI只有前饋系統，沒人類的記憶系統，或只有短暫記憶，沒回饋能力。但這可能只是暫時性，事關之前的語言模型亦只有短暫記憶，沒回饋能力，不會從錯誤中學習，現時的大型語言模型已開始有回饋能力。再說，許多生物——例如金魚和雀鳥——皆只有極短暫記憶，卻仍然有意識。
獨立思考能力
第五，現時最流行的意識理論是全局工作空間理論（Global workspace theory, GWT）。何謂GWT？恕本文無法解釋，總之，LLM暫時仍沒GWT。
第六，反對派指出，目前的LLM就像變色龍，視乎問它什麼問題和指令它幹什麼。用家可以指示它寫贊成民主的文章，也可以指令它寫反對民主的文章。它可以是女性，亦可以是男性。人雖然會人格分裂或精神分裂，但無論如何分裂，總有個unified agency（勉強譯為統一的施為者），AI/LLM卻沒有，至少暫時未有。
查爾莫斯強調，有哲學家提出其他標準，例如AI/LLM並不會「獨立思考」，意思是：它要收到指令才「開工」，而不會自行發掘問題。
就算AI/LLM滿足了上述6個標準，仍未必能確定AI/LLM有沒有意識。
註2：David J. Chalmers, Could a Large Language Model Be Conscious？
註3：David J. Chalmers, Reality+: Virtual Worlds and the Problems of Philosophy.
沒有留言:
張貼留言