---
title: "可解釋性（Explainability）"
slug: explainability
language: zh-TW
source: https://aiterms.tw/terms/explainability
updated_at: 2026-06-22
tags: [AI倫理與治理, 機器學習, 模型評估]
ipas_term: false
---

# 可解釋性（Explainability）

機器學習模型決策過程的透明度與可理解性，使用戶與利益相關者能理解模型為何做出特定預測。

## 完整說明

可解釋性是指機器學習模型的預測與決策過程能被人類理解與信任的程度。與黑箱模型相對，可解釋模型能向用戶說明「為什麼做出這個決策」，這對於高風險應用(如醫療診斷、信用審批)至關重要。

## 常見問題

### 可解釋性與模型精度是否必然衝突？

不是必然衝突，但確實存在權衡。簡單可解釋模型(如線性模型)精度通常低於複雜模型(如深度神經網絡)，這是事實。但通過兩種方式可以在兩者間取得平衡：(1)特徵工程：精心設計有意義的特徵，使簡單模型表達複雜模式；(2)事後解釋：使用複雜精確的模型，同時配備SHAP、LIME等解釋方法。結合特徵工程的線性模型往往能達到接近複雜模型的精度同時保持可解釋性。

### 事後解釋方法(如LIME、SHAP)的解釋是否可信？

事後解釋提供了一個視角，但不應盲目信任。這些方法的可信度取決於(1)方法的數學基礎：SHAP基於Shapley值的公理，理論上更堅實；LIME基於局部線性近似，對於非線性模型可能不準確；(2)應用的合適性：LIME更適合離散特徵，SHAP對連續特徵更精確；(3)驗證：應該對解釋進行交叉驗證，如改變特徵值看預測是否按解釋的方向變化。實踐中應將事後解釋視為探索工具，用於發現潛在問題，而非定論。

### 在醫療或金融等高風險場景中，可解釋模型與黑箱模型應如何選擇？

選擇應基於風險評估：(1)法律要求：金融監管通常要求能提供決策理由，此時必須用可解釋模型；(2)責任承擔：若決策產生壞後果，公司是否能承擔責任？可解釋模型更容易證明決策的合理性；(3)用戶接受度：高風險場景的用戶(如患者、申請人)通常要求理解決策過程；(4)風險等級：低風險決策可用黑箱+事後解釋，高風險決策應用本質可解釋模型。實踐中常採用分層方案：初篩用黑箱高精度模型快速排除明顯情況，最終決策用可解釋模型確保可審查性。

---

來源：https://aiterms.tw/terms/explainability
快查頁：https://aiterms.tw/terms/explainability
最後更新：2026/06/22
深度解說：https://aiterms.tw/learning/what-is-explainability