---
title: "黑箱模型（Black Box Model）"
slug: black-box-model
language: zh-TW
source: https://aiterms.tw/terms/black-box-model
updated_at: 2026-07-29
tags: [機器學習, 深度學習, 模型評估, AI倫理與治理, 模型訓練, 神經網路]
ipas_term: false
---

# 黑箱模型（Black Box Model）

> **模型分數很準，但你完全看不懂它為什麼這樣判斷時，你會怎麼判斷它真正的作用？**
>
> 你可以把它想成 黑箱模型是指其內部運作機制對使用者而言不透明的模型，難以理解輸入與輸出之間的具體關係。
>
> 在 模型分數很準，但你完全看不懂它為什麼這樣判斷時 這種情境裡，這個概念會直接影響你怎麼設計、怎麼評估、怎麼上線。

### 容易混淆
> **黑箱模型 vs 白箱模型**
> 黑箱模型難追原因，白箱模型則能直接看出決策規則。
>
> **可解釋性 vs 準確率**
> 準確率是在看做得對不對，可解釋性是在看能不能說明為什麼。
>
> **解釋結果 vs 模型本體**
> 有些方法只是後處理解釋，不代表模型本身就透明。

### 記住這句就好
> 先看它要解決的是什麼問題，再看它是不是最合適的方法。

### 實際案例
> **案例 1：信用評分**
> 客戶被拒絕時，銀行通常需要知道主要影響因子，而不是只拿到一個分數。
>
> **案例 2：醫療影像**
> 醫師要看模型為什麼判定異常，才能決定要不要進一步檢查。

### 深入了解
> | 面向 | 重點 |
> |---|---|
> | 常用方法 | LIME、SHAP、特徵重要度、注意力可視化、反事實解釋。 |
> | 適用情境 | 法規要求高、風險高、需要人工審核的場景特別需要。 |
> | 限制 | 局部解釋不等於全局理解，解釋也可能不穩定。 |

### 黑箱、白箱、灰箱

| 類型 | 意思 | 例子 |
| --- | --- | --- |
| 白箱（透明模型） | 決策過程人直接看得懂 | 線性回歸、邏輯回歸、淺決策樹、規則系統 |
| 灰箱 | 結構已知但細節難追 | 梯度提升樹、隨機森林 |
| 黑箱 | 輸入輸出可觀察，內部無法直接理解 | 深度神經網路、大型語言模型 |

> 要注意黑箱不是指「不能看內部」。深度模型的每一個權重都可以印出來，問題是幾十億個數字對人類沒有任何意義。黑箱指的是**規模造成的不可理解**，不是保密。
>
> 也不是所有黑箱都同樣不透明。一棵決策樹是白箱，一千棵組成的隨機森林就變成灰箱，因為單棵可讀但整體投票的結果無法用一句話說明。

### 什麼時候不能用黑箱

> 這是實務上真正要判斷的問題。準確度通常隨著模型變黑而上升，所以取捨是真實的。
>
> **法規要求說明時不能用。** GDPR 第 22 條對自動化決策賦予當事人要求說明的權利。金融業的信用評分、保險核保在很多地區都有明確的可解釋性要求。
>
> **錯誤代價極高時要謹慎。** 醫療診斷、司法輔助、自駕決策，出錯時必須能追出原因才能改善與究責。
>
> **需要人來覆核時要謹慎。** 如果流程設計是 AI 給建議、人做決定，那人必須看得懂建議的依據，否則覆核只是形式，實際上是全自動。
>
> **可以放心用黑箱的情況：** 錯誤代價低、可以用結果驗證、沒有法規約束。推薦系統、廣告排序、影像去噪、字幕生成都屬於這一類。

### 讓黑箱可解釋的三類手段

> **事後解釋（post-hoc）。** 模型照樣是黑箱，另外做工具去解釋它。常見的有 LIME、SHAP、注意力視覺化、顯著圖（saliency map）。優點是不影響效能，缺點是解釋本身是近似的，不保證忠實反映模型真正的計算。
>
> **本質可解釋（intrinsic）。** 一開始就選白箱模型或設計成可解釋的結構。可信度最高，代價是效能上限較低。
>
> **代理模型（surrogate）。** 用一個簡單模型去模仿黑箱的行為，再解讀簡單模型。要注意代理模型只在它擬合得好的區域裡可信。
>
> 選擇的原則：法規或安全上必須交代的場景，優先用本質可解釋；只是內部除錯與建立信任，事後解釋通常夠用。

### 情境判斷
> **Q1（判斷題）：** 如果模型很準但誰都看不懂，還能直接上線嗎？
> → 看情境，像廣告排序可能可以，但在醫療、金融這類高風險場景就不行。
>
> **Q2（判斷題）：** 如果解釋方法說模型最看重某個特徵，就一定是真的嗎？
> → 不一定，因為後處理解釋可能受方法本身影響。

### 常見問題
> **Q：怎麼提高可解釋性？**
> 可以選較透明的模型，也可以對黑箱模型加上 LIME、SHAP 這類方法。
>
> **Q：可解釋性越高越好嗎？**
> 不一定，通常要在可解釋性、性能和成本之間找平衡。
>
> **Q：黑箱模型一定不能用嗎？**
> 不是，當任務很複雜且對準確率要求高時，黑箱模型仍然很常用。

### 相關術語
> - **可解釋人工智慧**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。
> - **偏差**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。
> - **對抗性攻擊**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。
> - **穩健性**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。
> - **人工智慧倫理**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。

---

來源：https://aiterms.tw/terms/black-box-model
快查頁：https://aiterms.tw/terms/black-box-model
最後更新：2026/07/29
深度解說：https://aiterms.tw/learning/what-is-black-box-model