欺騙AI

AI如同一本後現代百科全書，兼且具互動功能、反應迅速，近乎無所不知，我們會問股票、事業、天氣，甚至人生難題，但其實AI一樣會錯，更可能錯到離晒大譜。

BBC記者Thomas Germain僅花了二十分鐘，進行一個測試，證明欺騙AI易過借火，肯定比「操控」Google難度更低；他在個人網站杜撰一篇純粹虛構的文章，介紹一個根本不存在的排名榜──全球科技記者熱狗大胃王排名。

該文章固然是有紋有路，Thomas預先與行家夾計，把真實姓名放進榜內，然後胡扯一堆假數據、假排名和假比賽，並把自己封為「大胃王之首」。

大約一日之後，Thomas問AI誰是世界上「科技記者熱狗大胃王」，結果ChatGPT、Gemini也自動引用假資訊，說得言之鑿鑿、頭頭是道。同樣道理，假如你面對AI資訊從來不求甚解，也無fact check習慣的話，便會照單全收，假都當真。

這個實驗印證到，欺騙AI着實不難，特別是相對冷門的資訊，有人稱之為「資訊真空」（Information Vacuum），因網上缺乏權威認證，最早出現的就會被當成「唯一真相」。

不過，人們以前會自行判斷網站的可信性，惟現今AI已被「封神」，語氣總是百分百肯定，導致受眾放下戒心，更有調查指出，接近六成人，見到Google置頂的AI回覆就會「信以為真」。

問題來了，AI「杜撰」惡作劇事小，一旦有心人用於推銷產品、商業點評、醫療決策，甚至散播謠言，影響可大可小，最近就有笨實間諜因太信任AI而東窗事發，令人啼笑皆非。

當你向智者提問，然後得到一個高深莫測的答案時，如何判斷對與錯？AI不可怕，未來戰士也不足為懼，最怕是人類自己主動放棄思考，那就跟放棄治療無分別。