AITerms 登入
iPAS 中級 大型語言模型自然語言處理AI倫理與治理

AI 幻覺(Hallucination)是什麼?

AI 幻覺是大型語言模型產生自信但事實錯誤或無中生有內容的現象,是 LLM 部署的主要風險

完整定義

AI 幻覺是指大型語言模型(LLM)產生不真實、不一致或與事實相悖的內容。這種現象可能源於訓練資料的偏差、模型對上下文的誤解或生成過程中的隨機性。在 iPAS 考試中,理解幻覺的成因和緩解方法,對於評估 LLM 的可靠性和安全性至關重要。

白話說明

你有沒有遇過 AI 說得超像真的,結果一查全是編的?

你可以把 AI 幻覺想成模型自己把空白補成故事。

它不是故意騙人,而是模型在沒有把握時仍然繼續生成,看起來流暢,內容卻可能完全不對。

記住這句

說得很像真的,不代表是真的。

比喻:AI 幻覺就像一個很會說故事的人 -- 他講得頭頭是道,聽起來很有道理,但仔細一查,內容卻是憑空捏造,完全沒有事實根據。

容易混淆

幻覺 vs 錯誤資訊

幻覺是模型自己編出不存在的內容

錯誤資訊可能是人或系統傳錯

最關鍵的區別是無中生有,還是傳播失真

幻覺 vs 偏見

偏見是輸出方向系統性歪掉

幻覺是內容本身可能根本不存在

最關鍵的區別是有但歪,還是根本編造

實際案例

虛構引用

法律文件或論文摘要裡,如果 AI 生成不存在的案例或論文名稱,這就是典型幻覺。

產品規格亂答

客服模型把不存在的規格講得很肯定,表面上很順,實際上就是幻覺在作怪。

深入了解

大型語言模型的目標是預測下一個詞,不是自動查證事實。

RAG、查核工具、低溫度和人工審核都能降低風險,但很難把幻覺完全消掉。

中英對照與常見說法

有研究者反對「幻覺」這個譯法,理由是幻覺在醫學上指的是感知到不存在的事物,而語言模型並沒有感知,它是在生成統計上合理但事實上錯誤的內容。Confabulation 在神經科學裡指「不自覺地編造記憶來填補空白」,跟模型的行為更接近。不過幻覺已經是通行用語。

說法
AI 幻覺
出現場合
台灣媒體與技術文章最常見的說法
說法
幻覺、模型幻覺
出現場合
簡稱
說法
AI 幻觉
出現場合
簡體寫法
說法
Hallucination
出現場合
英文原名,論文與技術文件用這個字
說法
Confabulation(虛談)
出現場合
部分研究者偏好的替代詞,認為比幻覺更精確
說法
一本正經地胡說八道
出現場合
中文網路上的口語形容

分成兩類,處理方式不同

忠實性幻覺比較好處理,因為有明確的比對基準(給定的文件)。事實性幻覺難得多,因為需要一個外部的真實世界知識來源。

類型
事實性幻覺
定義
說出跟真實世界不符的內容
例子
編造不存在的論文、把兩個人的經歷搞混
類型
忠實性幻覺
定義
說出跟提供的來源不符的內容
例子
摘要時加入原文沒有的資訊

為什麼會發生

訓練目標本來就不是說實話。 語言模型學的是「下一個詞出現的機率」,流暢與正確是兩件事。一個流暢但錯誤的句子,在訓練目標上不一定比不流暢但正確的句子差。

訓練資料本身有錯、有矛盾、有過時資訊。

模型沒有「我不知道」的自然出口。 除非特別訓練過,模型面對不確定的問題傾向給出一個答案而不是承認不知道。RLHF 有時反而加重這件事,因為人類標註者常常偏好看起來有自信的回答。

越冷門的問題越容易編。 訓練資料裡出現次數少的實體,模型只有模糊的統計印象,容易把相近的東西混在一起。

實務上怎麼壓低

檢索增強生成(RAG):先檢索出可靠文件,要求模型只根據文件回答並附上出處。這是目前最有效的單一手段。

要求引用並驗證引用:讓模型標出每一句話的來源段落,再用程式檢查那段話是否真的存在於來源。

降低隨機性:需要事實正確的任務把 temperature 調低。

自我一致性檢查:同一個問題問多次,答案不一致的部分就是高風險區。

交給人審核高風險輸出:醫療、法律、財務等領域,目前沒有任何技術手段可以取代這一步。

要注意的是,這些手段都是降低發生率,沒有任何方法能保證完全消除。任何宣稱「零幻覺」的說法都要看它是怎麼定義與量測的。

情境判斷

Q1: AI 給你的論文引用,你要不要直接照抄?

不要,先查證來源是否真的存在。

Q2: 同樣是回答錯誤,為什麼幻覺特別麻煩?

因為它常常語氣很肯定,讓人更容易信以為真。

iPAS 考題

出題方向:常考幻覺的定義、成因與常見緩解方法,特別是 RAG。

題目: 大型語言模型產生 AI 幻覺的主要原因是什麼?

答案: 模型依照機率生成文字,沒有內建事實查證能力。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,有 6 題把AI 幻覺列為延伸術語,這裡列出 5 題。

立即測驗

想測試你對 AI 幻覺 的掌握程度?用考古題作答

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。

其他格式:Markdown 版本