AITerms 登入
iPAS 中級 模型評估AI倫理與治理

LIME(Local Interpretable Model-agnostic Explanations)是什麼?

LIME 針對單筆預測,以局部線性模型近似複雜黑箱模型的行為,提供與模型無關的可解釋性

同主題的術語模型評估

完整定義

LIME(Local Interpretable Model-agnostic Explanations)是一種可解釋 AI 技術,透過在局部區域建立簡單模型來解釋複雜模型的預測結果,幫助使用者理解 AI 決策的依據。

白話說明

你有沒有被 AI 拒絕過申請,卻不知道它到底在看什麼?

你可以把 LIME 想成,先在這一筆資料附近做小實驗,再推回模型為什麼這樣判斷。

它其實就是一種針對單筆預測的局部解釋方法。

不管底下是樹模型、神經網路還是其他黑箱模型,它都能派上用場。

記住這句

先看這一筆附近,再解釋模型為什麼這樣判斷。

比喻:LIME 就像一位「偵探」-- 當一個神秘的黑箱模型做出預測時,LIME 會在這個預測附近,用簡單易懂的方式(像畫一張局部地圖)來解釋「為什麼」模型會這樣判斷,即使它不知道黑箱模型內部是如何運作的。

容易混淆

LIME vs SHAP

LIME 做局部近似,SHAP 做特徵貢獻分配。

一個重速度和直覺,一個重理論與穩定性。

LIME vs 特徵重要性

特徵重要性常看整體,LIME 常看單筆。

一個回答模型平常怎麼想,一個回答這一次怎麼想。

最關鍵的區別: LIME 是單筆局部解釋,不是整體規則。

實際案例

信用審核

當客戶被拒絕時,LIME 可以指出影響最大的條件,像是逾期紀錄、負債比或收入不足。

醫療影像

醫師想知道模型為何判成肺炎,LIME 可以標出影像裡最敏感的區塊。

演算法與應用

它會對原始樣本附近做擾動,產生一批鄰近樣本,再用黑箱模型去打分。

接著用簡單模型去近似這些鄰近樣本的行為,得到局部解釋。

這種方法快、直觀,但不是模型真實內部邏輯。

LIME 的名字就是它的做法

這個縮寫的四個字各自對應一個設計決定,拆開來看就懂它在做什麼。

Local(局部)。 它不解釋整個模型,只解釋「這一筆預測為什麼是這個結果」。因為複雜模型的整體行為不可能用簡單規則描述,但在單一資料點的附近,行為往往接近線性。

Interpretable(可解釋)。 產出的解釋是人看得懂的形式,例如「這幾個詞讓它判成垃圾郵件」「這幾塊像素讓它判成狼」。

Model-agnostic(模型無關)。 它把模型當黑箱,只透過「餵輸入、收輸出」來分析。所以任何模型都能用,不需要看內部權重。

Explanations(解釋)。

實際運算的四個步驟

第一步,擾動。 針對要解釋的那一筆資料,產生大量的變化版本。文字就隨機拿掉一些詞,影像就把某些區塊(superpixel)遮掉,表格資料就對特徵值加擾動。

第二步,取得預測。 把這些變化版本全部餵進黑箱模型,記下輸出。

第三步,加權。 離原資料越近的擾動樣本權重越高,因為 LIME 只想描述這個點附近的行為。

第四步,配一個簡單模型。 用這些加權樣本訓練一個線性回歸或簡單決策樹。這個簡單模型的係數,就是解釋。

要注意的兩個限制。 第一,因為擾動是隨機的,同一筆資料跑兩次可能得到不太一樣的解釋,穩定性是 LIME 常被批評的地方。第二,「附近」的範圍由一個核寬度參數決定,這個參數沒有理論上的最佳值,換一個值解釋就會變。

常被拿來比較的是 SHAP:SHAP 有博弈論的理論基礎、結果一致且可加總,但計算成本高很多。實務上快速看趨勢用 LIME,要能對外交代用 SHAP。

情境判斷

Q1(直覺題): 你只想知道某一筆貸款為什麼被拒,該先看哪種解釋方法?

LIME 很適合,因為它主打單筆局部解釋。

Q2(判斷題): LIME 跑出來的解釋,就等於模型真正的決策規則嗎?

不是,它只是近似,所以要把它當成解讀工具,而不是模型內部原理。

iPAS 考題

Q:LIME 最核心的用途是什麼?

用局部近似的方式,解釋黑箱模型對單筆資料的預測原因。

Q:LIME 和 SHAP 最大差異是什麼?

LIME 偏局部近似,SHAP 偏特徵貢獻分配與一致性。

常見問題

範例考題

在可解釋 AI(Explainable AI, XAI)的分類架構中,LIME(Local Interpretable Model-agnostic Explanations)屬於哪一類解釋技術?

  1. A內建可解釋模型(Intrinsic Interpretability):模型本身具有透明的決策結構
  2. B對話式解釋系統(Conversational AI Explainer):透過互動對話提供模型解釋
  3. C後處理模型解釋(post-hoc):對已訓練模型提供外部解釋
  4. D代理模型技術(Surrogate Model):訓練另一個簡單模型來完全取代原黑盒模型進行推論
到題目頁作答

出現在這些考古題

官方公告試題的逐題解析裡,這 2 題把LIME列為延伸術語。

立即測驗

想測試你對 LIME 的掌握程度?用考古題作答

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。

其他格式:Markdown 版本