完整定義
SHAP(SHapley Additive exPlanations)是基於賽局理論的可解釋 AI 方法,量化每個特徵對模型預測的貢獻程度,提供一致且公平的特徵重要性分析。
白話說明
你有沒有在你想知道貸款模型為什麼把某人判成高風險,而不是只看結果,發現只看表面常常不夠?
你可以把它想成把每個特徵在不同組合裡的貢獻公平攤開,再算出它對預測的影響。
模型越複雜,越需要能說清楚原因,SHAP 就是常見的可解釋工具。
記住這句
要公平分攤每個特徵對預測的貢獻,就想到 SHAP。
比喻:SHAP 就像一個公平的團隊獎金分配機制 -- 假設一個團隊(模型)完成了一項任務(預測結果),每個成員(特徵)都有貢獻。SHAP 會仔細計算,如果少了某個成員,或多了一個成員,團隊表現會怎麼變,然後公平地把功勞分給每個人。
容易混淆
傳統特徵重要性
傳統特徵重要性像只看誰出力最大,但沒考慮隊友之間怎麼互相影響。
SHAP 則像個精算師,它不只看單一特徵的影響,還會考慮所有特徵組合的情況,確保每個特徵的貢獻被公平且一致地評估。
實際案例
銀行想知道申請人被拒絕,是收入、負債比,還是信用紀錄影響最大。
醫療模型判定高風險時,醫師需要知道是哪個症狀或檢驗值推高了分數。
演算法與應用
它用 Shapley value 思想衡量每個特徵在所有可能組合下的平均貢獻。
好處是能做局部解釋,也能彙總成全局重要性。
情境判斷
Q1(直覺題): 如果你只想知道哪個特徵影響最大,SHAP 還有用嗎?
有。它不只給排名,還能看單一樣本的影響方向。
Q2(判斷題): 如果特徵之間彼此強相關,SHAP 的解讀會不會變複雜?
會。看情況,特徵共線性高時,解釋要更小心。
常見問題
是的,SHAP 值可以是負數。負的 SHAP 值表示該特徵對預測結果產生了負面影響,也就是說,該特徵降低了模型預測的數值。例如,在信用評分模型中,逾期還款的記錄可能會產生負的 SHAP 值,降低客戶的信用評分。
SHAP 值在處理特徵相關性方面存在一定的挑戰。當特徵高度相關時,它們的 SHAP 值可能會被分配得不準確。一些研究提出了改進 SHAP 以更好地處理特徵相關性的方法,例如考慮特徵之間的交互作用或使用基於因果模型的 SHAP 變體。
是的,SHAP 的計算成本可能很高,特別是對於複雜模型和大型數據集。除了 KernelSHAP 和 TreeSHAP 等近似算法外,還有一些更快的替代方案,例如 FastSHAP 和 Saabas。這些方法通常犧牲一定的準確性來換取更快的計算速度,需要根據具體應用場景進行權衡。
範例考題
SHAP(SHapley Additive exPlanations)值常用於分析機器學習模型的輸出行為。下列何者最符合 SHAP 值所提供的資訊?
- A模型在訓練過程中,各特徵對損失函數收斂速度的影響程度
- B依據特徵對模型整體準確率的影響,自動篩除低重要性變數
- C在單一預測結果中,各輸入特徵對最終輸出所產生的貢獻分配
- D透過調整特徵權重,使模型在推論階段降低計算複雜度
正解是 C:在單一預測結果中,各輸入特徵對最終輸出所產生的貢獻分配
解析:SHAP 值基於 Shapley 值的概念,計算每個輸入特徵對單一預測結果的貢獻程度。它能公平地分配各特徵對模型輸出的影響,提供個別預測的可解釋性。
出現在這些考古題
官方公告試題的逐題解析裡,這 4 題把SHAP列為延伸術語。
相關術語
- 可解釋人工智慧Explainable AISHAP 的目標就是讓模型更能被人看懂。
- 機器學習Machine Learning很多應用的底層都離不開機器學習。
- LIMELIME它和 SHAP 常一起拿來比較局部解釋。
- 公平性Fairness解釋模型之後,下一步常會看公平性有沒有出問題。
- 決策樹Decision Tree樹模型的可解釋性常用來和 SHAP 對照。
- LIMELocal Interpretable Model-agnostic Explanations
本頁內容有提到,或屬於同一組主題的術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本