OpenAI：有方法防AI幻覺
[2023.06.02] 發表
生成式人工智能(AI)模型與用戶進行對話時，有時出現捏造事實傾向，無論是OpenAI的聊天機械人ChatGPT，還是Google聊天機械人Bard，都被發現有虛構事實情况。AI專家將聊天機械人的「說謊」現象稱為「幻覺」(hallucinations)，指基於大型語言模型的AI工具，在內容生成的過程中，可能會對原文增刪、竄改，甚至杜撰內容。不過OpenAI的最新報告指出，已找到AI「說謊」的原因及解決方法。
OpenAI指出，即使是最先進的AI模型，當其對答案不肯定時，也可能會揑造事實。這些「幻覺」在涉及多個推理步驟時尤其明顯，因為只要其中一個步驟的邏輯不對，就足以令AI所生成的內容出錯。OpenAI表示，防止「幻覺」出現的方法，就是優化AI模型的訓練過程，在AI推理過程中的每個正確步驟，都讓AI系統自行作出正面的自我反饋，而不僅在最終得出正確結論時才給予獎勵。
新的訓練方法被稱為「過程監督」，有別於目前沿用的「結果監督」，以鼓勵AI模型以更類似人類的思考方式進行推理。
不過部分業界人士指出，OpenAI未提供證據，證明其建議的方法，可解決AI模型杜撰參考文獻等問題。(綜合報道)
更多國際要聞
歐洲政治共同體峰會（European Political Community summit）昨天（1日）在毗鄰烏克蘭的東歐小國摩爾多瓦舉行，...
詳情
蘇丹政府軍與準軍事組織「快速支援部隊」（RSF）爆發的衝突持續，影響民眾的糧水等供給。美國傳媒周三（5月31日）報道，過去6周最少60名嬰幼...
詳情
美國有線新聞網絡（CNN）周三（5月31日）報道，美國聯邦檢察官近期取得一段2021年夏天的錄音，顯示特朗普知道他在當年初卸任總統後，不當管...
詳情
多名國際頂尖科學家周三（5月31日）在《自然》期刊發表研究，指出地球隨着氣溫上升、水系統被擾亂，及天然棲息地被破壞的情况達到界限，已超出人類...
詳情
相關新聞
