---
title: "可解釋人工智慧（Explainable AI）"
slug: explainable-ai
language: zh-TW
source: https://aiterms.tw/terms/explainable-ai
updated_at: 2026-07-29
tags: [AI倫理與治理, 模型評估, AI基礎]
ipas_term: true
---

# 可解釋人工智慧（Explainable AI）

> **AI 給你一個結果時，你是不是也想知道它為什麼這樣判斷？**
> 你可以把可解釋人工智慧想成，幫黑箱模型補上一層人看得懂的理由。
> 它其實就是用視覺化、特徵重要性、局部近似或規則化的方法，讓人能理解模型為什麼做出這個決策。
>
> 你可以把它想成一個把抽象概念拉回日常判斷的提示，先知道它解決什麼問題，再看技術細節。

### 容易混淆
> **可解釋 AI vs 黑箱模型**
> 黑箱模型只給結果，不說原因，可解釋 AI 則盡量把理由攤開。
>
> **可解釋 AI vs 公平性**
> 可解釋 AI 是看懂模型怎麼想，公平性是看模型有沒有系統性偏見，兩者相關但不相同。
>
> **可解釋性 vs 可視化**
> 可視化只是表現形式之一，可解釋性還包括規則、反事實和局部代理模型。
>
> **最關鍵的區別：** 你想知道的是「它怎麼判斷」，還是「它有沒有偏袒某些人」。

### 記住這句就好
> 看懂模型理由，才知道能不能信它。

### 實際案例
> **案例一：貸款審核**
> 系統拒絕你的申請時，如果能指出是收入、負債比還是信用紀錄影響最大，使用者和審核人員都比較能接受。
>
> **案例二：醫療影像輔助**
> 模型說某張 X 光片有異常時，若能標出可疑區域和關鍵特徵，醫師就能更快判斷是不是要進一步檢查。

### 深入了解
> 常見方法包括 LIME、SHAP、特徵重要性、注意力可視化和反事實解釋。LIME 會在單一案例附近建立局部近似模型，SHAP 會用貢獻分配的方式說明每個特徵影響了多少。可解釋 AI 的重點不是把模型變簡單，而是讓複雜模型的決策能被檢查、質疑和修正。

### 中英對照與常見說法

| 說法 | 出現場合 |
| --- | --- |
| 可解釋人工智慧、可解釋 AI | 台灣正式用語 |
| 可解释人工智能 | 簡體寫法 |
| Explainable AI | 英文原名 |
| XAI | 標準縮寫 |
| 可解釋性（interpretability） | 相近但不完全相同的詞 |

> **可解釋性（interpretability）與可說明性（explainability）** 常被混用，比較嚴謹的區分是：可解釋性指模型本身結構透明、人直接看得懂（線性迴歸、淺決策樹）；可說明性指模型是黑箱，但事後可以產生說明（SHAP、LIME、Grad-CAM）。

### 兩條路線

| | 本質可解釋模型 | 事後說明方法 |
| --- | --- | --- |
| 做法 | 一開始就選看得懂的模型 | 用複雜模型，再另外產生說明 |
| 代表 | 線性迴歸、邏輯斯迴歸、決策樹、廣義加性模型（GAM） | SHAP、LIME、反事實解釋、Grad-CAM |
| 說明的可信度 | 高，說明就是模型本身 | 中，說明是近似出來的 |
| 準確度 | 通常略低 | 通常較高 |

> 一個常被忽略的建議：**在高風險場景先試本質可解釋模型**。表格資料上，一個調好的廣義加性模型或淺樹的表現常常跟複雜模型只差一點點，但省下所有解釋方法的不確定性。「複雜模型一定比較準」在結構化資料上經常不成立。

### 主要的事後說明方法

> **SHAP** 基於合作賽局的 Shapley 值，把預測值分配給各個特徵。它滿足幾個好的數學性質（加總等於預測值與基準值的差、對稱性），是目前最被信賴的方法。代價是計算成本高，樹模型有快速演算法，其他模型多半只能近似。
>
> **LIME** 在單一樣本附近取樣並擬合一個簡單模型當作局部說明。快，但同一個樣本重跑兩次可能得到不同說明，穩定性是它的弱點。
>
> **反事實解釋（counterfactual explanation）**：回答「要改變什麼，結果才會不同」。貸款被拒的時候，「年收入再多 8 萬就會過」比「收入這個特徵的貢獻是 −0.32」有用得多。對終端使用者來說這通常是最實用的一種。
>
> **部分依賴圖（PDP）與個別條件期望（ICE）**：看某個特徵在不同取值下對預測的整體影響。

### 三個必須提醒的邊界

> **說明不等於因果。** 特徵重要度說的是模型用了什麼，不是現實世界的因果關係。拿 SHAP 值當政策依據是常見的誤用。
>
> **說明本身可能不可靠。** 有些方法通不過健全性檢查：把模型權重隨機打亂之後，產生的說明幾乎沒變，代表那份說明反映的不是模型行為。
>
> **不同對象需要不同說明。** 監管機關要的是流程與稽核軌跡，工程師要的是除錯線索，被決策影響的當事人要的是「我該怎麼做才會不同」。用同一份 SHAP 圖應付三種對象，等於三個都沒滿足。

### 情境判斷
> **Q1（直覺題）：** 你要讓業務同事知道模型為什麼拒絕某個客戶，這時候是不是該加可解釋 AI？
>
> → 是，因為你需要的不只是結果，還要一個人看得懂的理由。
>
> **Q2（判斷題）：** 如果模型本來就很簡單，像線性回歸，還需不需要特別做可解釋 AI？
>
> → 看情況。簡單模型本身就比較容易解釋，但如果你要做稽核、法遵或對外溝通，還是可能需要更明確的解釋輸出。

### iPAS 考題
> **Q1：** 可解釋人工智慧最主要的目的之一是什麼？
> (A) 讓模型變得更深
> (B) 讓模型決策更容易被人理解與稽核
> (C) 讓訓練資料自動標註
> (D) 讓損失函數自動消失
>
> → (B)。可解釋 AI 的核心就是把黑箱決策變成可理解、可檢查的資訊。
>
> **Q2：** 下列哪一種方法最常被用來解釋單一預測案例？
> (A) LIME
> (B) K-means
> (C) Batch Normalization
> (D) Dropout
>
> → (A)。LIME 很常拿來做單一樣本的局部解釋。

### 常見問題
> **Q：可解釋人工智慧和模型可解釋性有什麼不同？**
> 模型可解釋性偏向模型本身容易被理解，可解釋 AI 則包含一整套把黑箱結果變成人能看懂的方法。
>
> **Q：什麼時候應該使用可解釋人工智慧？**
> 當決策會影響金錢、健康、法律或信任時，就很值得加上解釋層。
>
> **Q：初學者學習可解釋人工智慧最常見的誤解是什麼？**
> 很多人以為有了注意力熱圖就等於完成解釋，其實那只是其中一種訊號，不能單獨當成完整答案。

### 相關術語
> - **人工智慧**：讀完這個再看它，可以把 XAI 放回整體 AI 脈絡
> - **機器學習**：可解釋 AI 最常落地的地方
> - **深度學習**：黑箱感最強，也最需要解釋工具
> - **公平性**：讀完這個再看它，可以分辨「能解釋」和「沒偏見」的差別
> - **LIME**：讀完這個再看它，可以理解局部解釋怎麼做

---

來源：https://aiterms.tw/terms/explainable-ai
快查頁：https://aiterms.tw/terms/explainable-ai
最後更新：2026/07/29
深度解說：https://aiterms.tw/learning/what-is-explainable-ai