---
title: "AI 幻覺（Hallucination）"
slug: hallucination
language: zh-TW
source: https://aiterms.tw/terms/hallucination
updated_at: 2026-07-29
tags: [大型語言模型, 自然語言處理, AI倫理與治理]
ipas_term: true
---

# AI 幻覺（Hallucination）

> **你有沒有遇過 AI 說得超像真的，結果一查全是編的？**
>
> 你可以把 AI 幻覺想成模型自己把空白補成故事。
> 它不是故意騙人，而是模型在沒有把握時仍然繼續生成，看起來流暢，內容卻可能完全不對。
>
> 你可以把它想成一個把抽象概念拉回日常判斷的提示，先知道它解決什麼問題，再看技術細節。

### 容易混淆

> **幻覺 vs 錯誤資訊**
> 幻覺是模型自己編出不存在的內容
> 錯誤資訊可能是人或系統傳錯
> 最關鍵的區別是無中生有，還是傳播失真
>
> **幻覺 vs 偏見**
> 偏見是輸出方向系統性歪掉
> 幻覺是內容本身可能根本不存在
> 最關鍵的區別是有但歪，還是根本編造
>
### 記住這句就好

> 說得很像真的，不代表是真的。

### 實際案例

> **虛構引用**
> 法律文件或論文摘要裡，如果 AI 生成不存在的案例或論文名稱，這就是典型幻覺。
>
> **產品規格亂答**
> 客服模型把不存在的規格講得很肯定，表面上很順，實際上就是幻覺在作怪。
>
### 深入了解

> 大型語言模型的目標是預測下一個詞，不是自動查證事實。
> RAG、查核工具、低溫度和人工審核都能降低風險，但很難把幻覺完全消掉。

### 中英對照與常見說法

| 說法 | 出現場合 |
| --- | --- |
| AI 幻覺 | 台灣媒體與技術文章最常見的說法 |
| 幻覺、模型幻覺 | 簡稱 |
| AI 幻觉 | 簡體寫法 |
| Hallucination | 英文原名，論文與技術文件用這個字 |
| Confabulation（虛談） | 部分研究者偏好的替代詞，認為比幻覺更精確 |
| 一本正經地胡說八道 | 中文網路上的口語形容 |

> 有研究者反對「幻覺」這個譯法，理由是幻覺在醫學上指的是感知到不存在的事物，而語言模型並沒有感知，它是在生成統計上合理但事實上錯誤的內容。Confabulation 在神經科學裡指「不自覺地編造記憶來填補空白」，跟模型的行為更接近。不過幻覺已經是通行用語。

### 分成兩類，處理方式不同

| 類型 | 定義 | 例子 |
| --- | --- | --- |
| 事實性幻覺 | 說出跟真實世界不符的內容 | 編造不存在的論文、把兩個人的經歷搞混 |
| 忠實性幻覺 | 說出跟提供的來源不符的內容 | 摘要時加入原文沒有的資訊 |

> 忠實性幻覺比較好處理，因為有明確的比對基準（給定的文件）。事實性幻覺難得多，因為需要一個外部的真實世界知識來源。

### 為什麼會發生

> **訓練目標本來就不是說實話。** 語言模型學的是「下一個詞出現的機率」，流暢與正確是兩件事。一個流暢但錯誤的句子，在訓練目標上不一定比不流暢但正確的句子差。
>
> **訓練資料本身有錯、有矛盾、有過時資訊。**
>
> **模型沒有「我不知道」的自然出口。** 除非特別訓練過，模型面對不確定的問題傾向給出一個答案而不是承認不知道。RLHF 有時反而加重這件事，因為人類標註者常常偏好看起來有自信的回答。
>
> **越冷門的問題越容易編。** 訓練資料裡出現次數少的實體，模型只有模糊的統計印象，容易把相近的東西混在一起。

### 實務上怎麼壓低

> **檢索增強生成（RAG）**：先檢索出可靠文件，要求模型只根據文件回答並附上出處。這是目前最有效的單一手段。
>
> **要求引用並驗證引用**：讓模型標出每一句話的來源段落，再用程式檢查那段話是否真的存在於來源。
>
> **降低隨機性**：需要事實正確的任務把 temperature 調低。
>
> **自我一致性檢查**：同一個問題問多次，答案不一致的部分就是高風險區。
>
> **交給人審核高風險輸出**：醫療、法律、財務等領域，目前沒有任何技術手段可以取代這一步。
>
> 要注意的是，這些手段都是**降低**發生率，沒有任何方法能保證完全消除。任何宣稱「零幻覺」的說法都要看它是怎麼定義與量測的。

### 情境判斷

> **Q1：** AI 給你的論文引用，你要不要直接照抄？
> → 不要，先查證來源是否真的存在。
>
> **Q2：** 同樣是回答錯誤，為什麼幻覺特別麻煩？
> → 因為它常常語氣很肯定，讓人更容易信以為真。
>
### iPAS 考題

> 出題方向：常考幻覺的定義、成因與常見緩解方法，特別是 RAG。
> **題目：** 大型語言模型產生 AI 幻覺的主要原因是什麼？
> → **答案：** 模型依照機率生成文字，沒有內建事實查證能力。

### 常見問題

> **Q：幻覺能完全消除嗎？**
> 目前很難，只能盡量降低發生率。
>
> **Q：模型為什麼不直接說不知道？**
> 因為它被訓練成盡量給出有幫助的回應，不是自然學會拒答。
>
> **Q：最新模型就不會幻覺嗎？**
> 不會，新模型通常更穩，但仍需要查證。
>
### 相關術語

> - **檢索增強生成**：降低幻覺最常用的實務方法
> - **大型語言模型**：幻覺最常出現的場景
> - **可解釋人工智慧**：幫你判斷模型為什麼會這樣答
> - **安全護欄**：先把高風險輸出擋住，幻覺傷害會小很多
> - **人機迴路**：高風險任務常需要人最後查核

---

來源：https://aiterms.tw/terms/hallucination
快查頁：https://aiterms.tw/terms/hallucination
最後更新：2026/07/29
深度解說：https://aiterms.tw/learning/what-is-hallucination