AITerms 登入
機器學習AI倫理與治理模型評估

反事實解釋(Counterfactual Explanation)是什麼?

反事實解釋描述了為了改變模型預測結果,輸入數據需要做的最小變動。它提供了一種理解模型決策邏輯的方式。

完整定義

反事實解釋是一種解釋機器學習模型決策的方法,它通過描述為了改變模型的預測結果,輸入數據需要做的最小變動來工作。它回答了“如果…會怎樣?”的問題,例如,“如果我的信用評分提高50分,貸款申請會被批准嗎?”反事實解釋有助於理解模型決策的邏輯,並識別影響預測結果的關鍵因素。

白話說明

你有沒有在你收到模型拒絕或通過的結果,想知道要改哪裡才會變成另一種判斷時,還在想這件事到底該怎麼看?

把它想成一張「如果改這些條件,就會變結果」的說明卡。

它不只告訴你模型怎麼想,還會告訴你最小要改動哪些輸入。

這種解釋很適合拿來做申訴、流程修正和使用者回饋。

記住這句

問它怎麼變結果,不是只問它為什麼。

比喻:反事實解釋就像告訴你「如果當初這樣做,結果就會不一樣」 -- 比如你的貸款被拒絕了,它會告訴你「如果你月收入再高一點,或是信用分數再多幾分,你的貸款就會通過」。這讓你清楚知道,要改變結果需要調整哪些關鍵因素。

容易混淆

feature-importance

vs 特徵重要性 (Feature Importance):特徵重要性像告訴你「哪些因素對結果影響最大」,但不會告訴你具體要怎麼改;反事實解釋則更直接,它不僅指出重要因素,還明確告訴你「這些因素需要改變多少,才能達到你想要的結果」,提供可操作的建議。

常見混淆:反事實解釋 vs feature-importance

特徵重要性只說哪些因素重要,反事實解釋會說要改哪些條件才會變結果。

實際案例

信貸申請

系統顯示收入再高一點或負債再低一點,就可能通過。

醫療分流

如果危險指標下降到某個門檻,病人就可能從急診轉普通觀察。

演算法與應用

1. 好的反事實解釋要改得少,還要真的能做到,不然只是紙上談兵。

2. 它通常會追求鄰近性和可操作性,讓建議既接近原本資料,也能落地。

3. 如果背景限制很多,反事實結果可能和特徵重要性不一樣,兩者用途不同。

情境判斷

Q1:使用者想知道為什麼貸款沒過,最能直接回應他的解釋是哪一種?

反事實解釋,因為它會告訴你改哪些條件才可能過件。

Q2:如果改動一個特徵就要花很大代價,這樣的反事實還有用嗎?

要看情況,理論上可以解釋模型,但實務上可能不夠可操作。

常見問題

範例考題

在金融業導入 AI 模型與可解釋性技術時,反事實解釋(Counterfactual Explanation)最符合下列哪一種應用?

  1. A分析整體客戶群的信用風險分布,以預測未來違約率趨勢
  2. B回溯歷史呆帳案例,辨識造成違約的主要影響因素
  3. C分析在模型不變的前提下,客戶申請資料變動對授信決策結果的影響
  4. D依據客戶輪廓與行為資料,推薦最適合的金融商品以提升交叉銷售
到題目頁作答

出現在這些考古題

官方公告試題的逐題解析裡,這 2 題把反事實解釋列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本