AITerms 登入
模型評估AI倫理與治理

SHAP(SHapley Additive exPlanations)是什麼?

SHAP 是一種基於賽局理論 Shapley 值的模型解釋方法,用於量化各特徵對模型預測的貢獻程度

同主題的術語模型評估

完整定義

SHAP(SHapley Additive exPlanations)是基於賽局理論的可解釋 AI 方法,量化每個特徵對模型預測的貢獻程度,提供一致且公平的特徵重要性分析。

白話說明

你有沒有在你想知道貸款模型為什麼把某人判成高風險,而不是只看結果,發現只看表面常常不夠?

你可以把它想成把每個特徵在不同組合裡的貢獻公平攤開,再算出它對預測的影響。

模型越複雜,越需要能說清楚原因,SHAP 就是常見的可解釋工具。

記住這句

要公平分攤每個特徵對預測的貢獻,就想到 SHAP。

比喻:SHAP 就像一個公平的團隊獎金分配機制 -- 假設一個團隊(模型)完成了一項任務(預測結果),每個成員(特徵)都有貢獻。SHAP 會仔細計算,如果少了某個成員,或多了一個成員,團隊表現會怎麼變,然後公平地把功勞分給每個人。

容易混淆

傳統特徵重要性

傳統特徵重要性像只看誰出力最大,但沒考慮隊友之間怎麼互相影響。

SHAP 則像個精算師,它不只看單一特徵的影響,還會考慮所有特徵組合的情況,確保每個特徵的貢獻被公平且一致地評估。

實際案例

銀行想知道申請人被拒絕,是收入、負債比,還是信用紀錄影響最大。

醫療模型判定高風險時,醫師需要知道是哪個症狀或檢驗值推高了分數。

演算法與應用

它用 Shapley value 思想衡量每個特徵在所有可能組合下的平均貢獻。

好處是能做局部解釋,也能彙總成全局重要性。

情境判斷

Q1(直覺題): 如果你只想知道哪個特徵影響最大,SHAP 還有用嗎?

有。它不只給排名,還能看單一樣本的影響方向。

Q2(判斷題): 如果特徵之間彼此強相關,SHAP 的解讀會不會變複雜?

會。看情況,特徵共線性高時,解釋要更小心。

常見問題

範例考題

SHAP(SHapley Additive exPlanations)值常用於分析機器學習模型的輸出行為。下列何者最符合 SHAP 值所提供的資訊?

  1. A模型在訓練過程中,各特徵對損失函數收斂速度的影響程度
  2. B依據特徵對模型整體準確率的影響,自動篩除低重要性變數
  3. C在單一預測結果中,各輸入特徵對最終輸出所產生的貢獻分配
  4. D透過調整特徵權重,使模型在推論階段降低計算複雜度
到題目頁作答

出現在這些考古題

官方公告試題的逐題解析裡,這 4 題把SHAP列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本