他們擔心人工智能:合理嗎?
最近收到幾個消息,都是對人工智能表示擔心的。用聲明來表示擔心,是一種呼籲,而且是有點絕望之中的呼籲。其中一個較為突出的是Fairplay這個組織,在4月16日,代表美國和加拿大120個組織與142位專家的聯署聲明,呼籲五年內暫停在K-12(從幼兒到高中)使用生成式AI。他們正在爭取更多人的聯署。
Fairplay是一個關注兒童的非政府組織。聯署的組織,有大有小,但亦不乏全國性的、有代表性的組織。其中不少是資深的教育家、兒童心理學家。他們邀請聯署的,可以說是他們聲明的總結:在這五年期間,要保證使用AI的五項原則:
一、能改進學習成果,而不致「智力卸載」和不妨礙人際關係。
二、能顯示學生有絕對的安全。防止沉迷、私隱、有害內容、心理健康等。
三、不會用於作弊、欺騙、抄襲等不法目的。
四、充分並優先考慮對待私隱、人權、倫理、公義、氣候等的影響。
五、不用於替代教師,尤其是面對弱勢的學生如弱智、差生和家境低下。
聲明認為,不符合以上條件的AI產品,就不應該在K-12學校使用。
聲明本身頗長,說明了AI對教育的威脅,逐條解釋;又提出了目前沒有答案的一些問題,並且建議這「暫停」的五年中,做些什麼。
聯署聲明 暫停AI使用五年
這個聲明,引起了不少社會注意和媒體的報道。支持禁用五年的,大多數認為AI對學生的學習,沒有好處,反而有害處。害處之一,學生把學習「卸載」(offloading,類同本欄提出的「學習外判」outsourcing),剝奪了他們學習的機會,這也是哈佛和MIT提出AI引起的「認知負債」(cognitive debt)。害處之二,腦科學家指出,人類的前額葉,所負擔的計劃、理解、情緒控制、批判思維等等,要到了二十多歲才完全成熟。過早用AI會妨礙了青少年這些方面的發展。害處之三,學生沉迷於AI,減少了他們人際交往的經歷,也是妨礙了他們的成長,等等。
對這個聲明提出異議的,是政府部門與AI研發商。政府部門,例如在聲明中被點名的紐約市教育部門,辯稱學生與AI交往,已是不爭的事實;意思是,不是政府政策所能規管的。YouTube也被點名,指其發放的許多節目,不適合學生觀看;YouTube的反應是,很多節目已經明言只限18歲以上的人觀看。總的來說,算是辯解。
看來,支持與辯解的,都有道理。對教育的害處,已經很明顯。本欄介紹過美國中小學教師因AI而辭職,大學教授因AI而大發雷霆。中小學教師的不滿,也許還沒有在全球成為普遍現象,但是大學教師因AI而感到的無奈,則已經是全球現象。
辯解的一方,也有道理。代表政府的教育局也沒有說錯,學生運用AI,不是政府驅使的,不管怎樣,學生已經自己在用了。發展AI,基本上是技術上的創新,研發者會覺得,這是目前科技發展的尖端;至於人們如何運用,那不是研發者的責任。不過,現在又有了商業的目標,發展AI的,也就難以逃避為產品的影響負上責任。
指出危險 跟着要解決什麼?
這樣的聲明,好像全球還是第一樁。怎樣看?以下是我的反應。
第一、Fairplay的聲明,的確是集中指出了教育應用AI的危機,對於這些危機,有了一個比較完整的概括。這個聲明裏面的警示,有些是教師感覺到了,但是不太明白背後的禍害。現在有了專家的註釋,就有了條理,有了學理的根據。有人能夠這樣站出來,勇氣可嘉。打破了AI研發商的「一言堂」。起碼讓人們清醒一下,不要以為用了AI,就是提高了「教學效果」。這個聲明,很清晰地說明了,學校裏面使用AI,並不就是提高教學效益。
第二、不過,這個聲明的幾點,還是建築在大家熟悉了的「教育」框架。這裏說的教育改進,按照美國的習慣,講的主要是「分數」的提高。對教育的威脅,彷彿還是作弊、抄襲……而沒有深究這些危機背後,是由於AI?由於學生的不誠實?還是由於「我講,你聽;你交,我評」的基本模式受到衝擊?
我一直認為,AI對教育真正的威脅,不是看到原來的教學效率不夠高;不是現在的學生學的內容不夠多、學的速度不夠快,而是AI給了學生一個契機,可以直接走進自學的境界。這就打破了工業社會流傳下來的、生產流程式的學校理念。不少學者提過許多例子,說明純粹為了工作需要而設置的教育流程,已經不再是社會人才產生的常態。學校的功能不再適合社會的需求。學生的成長,在於是否能夠學會掌握自己的生活,不懼面對變幻莫測的社會現實。這絕不是什麼高調的言論,而是實實在在的現實。
第三、以上的聲明,雖然發出了非常重要的警示,卻只能算是「吶喊」。政府部門,要把AI在學校的應用停下來,很難實現。教師要各自把AI在學校停下來,也不容易。即使政府部門與教師都把AI的使用停下來了,五年「冷靜期」即使實現了,之後又如何?而且,這五年裏面,瘋狂的研發者又會有什麼新的發明,那時候又怎麼辦?
假如這五年,AI的使用停頓了,而學校又「一切照舊」,以現在社會變化的速度,學校的「崩潰」只會加速。學校就失去了寶貴的五年,沒有趁這個機會建立學生的新身份──自信、自主、自立、自學……他們需要掌握AI,而不是因為恐懼而逃避AI。
AI出現
遇到挑戰的是什麼?
第四、AI引起的教育恐慌,許多人都已經感覺到。香港有使用AI比較熟練的教師,他們站在「使用工具」的高度,早就感覺到AI的種種威脅,但是他們的學生早已渡過了這個恐慌階段,而是純熟地讓AI發揮自己的能動性。
大多數的教師,都在嘗試應用AI,但是對於運用AI的利與弊,還摸不清楚,或者不太注意;以上的聲明,也許會讓一些教師「縮手」— 是否我們也應該停下來;或者想,最好香港也有人出來聲明一下,讓大家擺脫掙扎。在美國,相信大部分教師都會這樣想,「終於有人出面講『真話』了,我們可以舒一口氣了!」
在中國內地,以上的聲明,不容易出現。那是一個大集體的社會,政府已經一而再、再而三發布有關教育應用AI的指引,大家也覺得教育要運用AI,是大勢所趨、理所當然。教育運用AI,一方面是精采紛呈,另一方面卻是瑕瑜互見。在這還是開步走的時候,要政府發出很具體的指令,也不適合。
對於AI的性質,其實全球還在摸索。Fairplay 的聲明為AI在教育的使用,提出了新的話題,值得我們大家注意。






