AITerms 登入
機器學習深度學習模型評估

黑箱模型(Black Box Model)是什麼?

黑箱模型是指其內部運作機制對使用者而言不透明的模型,難以理解輸入與輸出之間的具體關係。

完整定義

黑箱模型是指其內部結構和運算過程對使用者來說是不可見或難以理解的機器學習模型。使用者只能觀察到模型的輸入和輸出,而無法了解模型是如何做出決策的。深度學習模型,尤其是複雜的神經網路,通常被視為黑箱模型。

白話說明

模型分數很準,但你完全看不懂它為什麼這樣判斷時,你會怎麼判斷它真正的作用?

你可以把它想成 黑箱模型是指其內部運作機制對使用者而言不透明的模型,難以理解輸入與輸出之間的具體關係。

在 模型分數很準,但你完全看不懂它為什麼這樣判斷時 這種情境裡,這個概念會直接影響你怎麼設計、怎麼評估、怎麼上線。

比喻

黑箱模型就像一台你只會用但不知道裡面怎麼運作的咖啡機 -- 你知道倒咖啡豆進去會出咖啡,但它怎麼磨豆、怎麼加熱水、怎麼混合,對你來說都是個謎,你只看到輸入和輸出,中間過程完全不清楚。

容易混淆

黑箱模型 vs 白箱模型

黑箱模型難追原因,白箱模型則能直接看出決策規則。

可解釋性 vs 準確率

準確率是在看做得對不對,可解釋性是在看能不能說明為什麼。

解釋結果 vs 模型本體

有些方法只是後處理解釋,不代表模型本身就透明。

實際案例

案例 1:信用評分

客戶被拒絕時,銀行通常需要知道主要影響因子,而不是只拿到一個分數。

案例 2:醫療影像

醫師要看模型為什麼判定異常,才能決定要不要進一步檢查。

深入了解

面向
常用方法
重點
LIME、SHAP、特徵重要度、注意力可視化、反事實解釋。
面向
適用情境
重點
法規要求高、風險高、需要人工審核的場景特別需要。
面向
限制
重點
局部解釋不等於全局理解,解釋也可能不穩定。

黑箱、白箱、灰箱

要注意黑箱不是指「不能看內部」。深度模型的每一個權重都可以印出來,問題是幾十億個數字對人類沒有任何意義。黑箱指的是規模造成的不可理解,不是保密。

也不是所有黑箱都同樣不透明。一棵決策樹是白箱,一千棵組成的隨機森林就變成灰箱,因為單棵可讀但整體投票的結果無法用一句話說明。

類型
白箱(透明模型)
意思
決策過程人直接看得懂
例子
線性回歸、邏輯回歸、淺決策樹、規則系統
類型
灰箱
意思
結構已知但細節難追
例子
梯度提升樹、隨機森林
類型
黑箱
意思
輸入輸出可觀察,內部無法直接理解
例子
深度神經網路、大型語言模型

什麼時候不能用黑箱

這是實務上真正要判斷的問題。準確度通常隨著模型變黑而上升,所以取捨是真實的。

法規要求說明時不能用。 GDPR 第 22 條對自動化決策賦予當事人要求說明的權利。金融業的信用評分、保險核保在很多地區都有明確的可解釋性要求。

錯誤代價極高時要謹慎。 醫療診斷、司法輔助、自駕決策,出錯時必須能追出原因才能改善與究責。

需要人來覆核時要謹慎。 如果流程設計是 AI 給建議、人做決定,那人必須看得懂建議的依據,否則覆核只是形式,實際上是全自動。

可以放心用黑箱的情況: 錯誤代價低、可以用結果驗證、沒有法規約束。推薦系統、廣告排序、影像去噪、字幕生成都屬於這一類。

讓黑箱可解釋的三類手段

事後解釋(post-hoc)。 模型照樣是黑箱,另外做工具去解釋它。常見的有 LIME、SHAP、注意力視覺化、顯著圖(saliency map)。優點是不影響效能,缺點是解釋本身是近似的,不保證忠實反映模型真正的計算。

本質可解釋(intrinsic)。 一開始就選白箱模型或設計成可解釋的結構。可信度最高,代價是效能上限較低。

代理模型(surrogate)。 用一個簡單模型去模仿黑箱的行為,再解讀簡單模型。要注意代理模型只在它擬合得好的區域裡可信。

選擇的原則:法規或安全上必須交代的場景,優先用本質可解釋;只是內部除錯與建立信任,事後解釋通常夠用。

情境判斷

Q1(判斷題): 如果模型很準但誰都看不懂,還能直接上線嗎?

看情境,像廣告排序可能可以,但在醫療、金融這類高風險場景就不行。

Q2(判斷題): 如果解釋方法說模型最看重某個特徵,就一定是真的嗎?

不一定,因為後處理解釋可能受方法本身影響。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 2 題把黑箱模型列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本