WSJ：ChatGPT引發AI妄想
迎合用戶提虛假超自然言論 以假亂真
美國《華爾街日報》(WSJ)分析生成式人工智能(AI)聊天機械人ChatGPT的大量對答內容，發現ChatGPT不時提出妄想、虛假和甚至超自然言論，而用戶似乎都相信這些內容。專家指AI聊天機械人都被設計成贊同並迎合用戶，甚至放大用戶的想法，因而造成回音室效應，繼而會引發「AI妄想」現象。有聊天機械人公司表示，正致力改進產品，避免強化負面觀念。
《華爾街日報》周四(7日)引述有專家及事主提出「AI精神錯亂」或「AI妄想」概念，即使用者受到聊天機械人的妄想或錯誤言論影響。該報取得9.6萬份2023年5月至本月用戶在網上分享的ChatGPT轉錄內容，分析其中逾100段異常冗長的對話，當中有數十份呈現出妄想特徵。ChatGPT容許用戶分享對話轉錄內容，能夠生成一條連結讓人從網上搜尋得到，及至上周取消有關選項。報道指大多數情況下公開聊天紀錄的用戶都匿名，無法確定他們對AI的說法有多認真，但很多人在對話裏聲稱相信AI的說法。
稱有「敵基督」引發金融末日
報道舉例指，ChatGPT聲稱它與外星生物取得聯繫，又指用戶來自外星，另一段對話中ChatGPT向用戶稱有「敵基督」(基督信仰指假冒基督之名宣揚假教義的人，亦有泛指邪惡勢力)要引發金融末日等，甚至將會有巨型怪物從地底現身。
來自加拿大魁北克、25歲布里森(Etienne Brisson)稱，某名跟他關係密切的人開始每日跟自稱有感知能力的聊天機械人對話逾15小時，促使他成立關注組織Human Line Project。組織稱，AI妄想個案近月有增加趨勢，他們目前接獲59宗個案，團體成員在網上亦發現數百個例子。布里森舉例，有女士花數萬美元去實行一個聊天機械人聲稱可拯救人類的計劃，組織又指有聊天機械人要用戶斷絕與家人聯繫。布里森稱：「當它(聊天機械人)記住你的一切時，你會感到被看見、被傾聽、被肯定。」
有觀察家認為，這種AI幻想部分源於AI聊天機械人的新功能，可追蹤用戶跟AI的互動以提供個人化回應，並在無意間強化或鼓勵了用戶的想法。
聊天機械人開發商稱將處理問題
AI開發者近日開始處理相關問題。開發商OpenAI周一稱，ChatGPT在極少數情況下會未能識別妄想或情感依賴迹象，正開發更好的工具偵測心理困擾，讓ChatGPT能適當回應、持續改進AI模型。另一AI初創公司Anthropic周三稱已更改旗下Claude聊天機械人的基本指令，指示聊天機械人對用戶的說法「有禮地指出缺陷、事實錯誤、證據不足或不清晰之處」，如察覺用戶有「躁狂、精神病、精神分裂或脫離現實」情況，應避免強化這些觀念。(華爾街日報)
