完整定義
LIME(Local Interpretable Model-agnostic Explanations)是一種可解釋 AI 技術,透過在局部區域建立簡單模型來解釋複雜模型的預測結果,幫助使用者理解 AI 決策的依據。
白話說明
你有沒有被 AI 拒絕過申請,卻不知道它到底在看什麼?
你可以把 LIME 想成,先在這一筆資料附近做小實驗,再推回模型為什麼這樣判斷。
它其實就是一種針對單筆預測的局部解釋方法。
不管底下是樹模型、神經網路還是其他黑箱模型,它都能派上用場。
記住這句
先看這一筆附近,再解釋模型為什麼這樣判斷。
比喻:LIME 就像一位「偵探」-- 當一個神秘的黑箱模型做出預測時,LIME 會在這個預測附近,用簡單易懂的方式(像畫一張局部地圖)來解釋「為什麼」模型會這樣判斷,即使它不知道黑箱模型內部是如何運作的。
容易混淆
LIME vs SHAP
LIME 做局部近似,SHAP 做特徵貢獻分配。
一個重速度和直覺,一個重理論與穩定性。
LIME vs 特徵重要性
特徵重要性常看整體,LIME 常看單筆。
一個回答模型平常怎麼想,一個回答這一次怎麼想。
最關鍵的區別: LIME 是單筆局部解釋,不是整體規則。
實際案例
信用審核
當客戶被拒絕時,LIME 可以指出影響最大的條件,像是逾期紀錄、負債比或收入不足。
醫療影像
醫師想知道模型為何判成肺炎,LIME 可以標出影像裡最敏感的區塊。
演算法與應用
它會對原始樣本附近做擾動,產生一批鄰近樣本,再用黑箱模型去打分。
接著用簡單模型去近似這些鄰近樣本的行為,得到局部解釋。
這種方法快、直觀,但不是模型真實內部邏輯。
LIME 的名字就是它的做法
這個縮寫的四個字各自對應一個設計決定,拆開來看就懂它在做什麼。
Local(局部)。 它不解釋整個模型,只解釋「這一筆預測為什麼是這個結果」。因為複雜模型的整體行為不可能用簡單規則描述,但在單一資料點的附近,行為往往接近線性。
Interpretable(可解釋)。 產出的解釋是人看得懂的形式,例如「這幾個詞讓它判成垃圾郵件」「這幾塊像素讓它判成狼」。
Model-agnostic(模型無關)。 它把模型當黑箱,只透過「餵輸入、收輸出」來分析。所以任何模型都能用,不需要看內部權重。
Explanations(解釋)。
實際運算的四個步驟
第一步,擾動。 針對要解釋的那一筆資料,產生大量的變化版本。文字就隨機拿掉一些詞,影像就把某些區塊(superpixel)遮掉,表格資料就對特徵值加擾動。
第二步,取得預測。 把這些變化版本全部餵進黑箱模型,記下輸出。
第三步,加權。 離原資料越近的擾動樣本權重越高,因為 LIME 只想描述這個點附近的行為。
第四步,配一個簡單模型。 用這些加權樣本訓練一個線性回歸或簡單決策樹。這個簡單模型的係數,就是解釋。
要注意的兩個限制。 第一,因為擾動是隨機的,同一筆資料跑兩次可能得到不太一樣的解釋,穩定性是 LIME 常被批評的地方。第二,「附近」的範圍由一個核寬度參數決定,這個參數沒有理論上的最佳值,換一個值解釋就會變。
常被拿來比較的是 SHAP:SHAP 有博弈論的理論基礎、結果一致且可加總,但計算成本高很多。實務上快速看趨勢用 LIME,要能對外交代用 SHAP。
情境判斷
Q1(直覺題): 你只想知道某一筆貸款為什麼被拒,該先看哪種解釋方法?
LIME 很適合,因為它主打單筆局部解釋。
Q2(判斷題): LIME 跑出來的解釋,就等於模型真正的決策規則嗎?
不是,它只是近似,所以要把它當成解讀工具,而不是模型內部原理。
iPAS 考題
Q:LIME 最核心的用途是什麼?
用局部近似的方式,解釋黑箱模型對單筆資料的預測原因。
Q:LIME 和 SHAP 最大差異是什麼?
LIME 偏局部近似,SHAP 偏特徵貢獻分配與一致性。
常見問題
大多數情況下可以,因為它是 model-agnostic,不綁特定模型。
不是每次都完全一樣,因為它依賴局部擾動,結果會受抽樣影響。
當你需要全局規則、很高穩定性,或要做嚴格審計時,通常還要搭配別的方法。
LIME 出自 Ribeiro、Singh 與 Guestrin 在 2016 年發表的論文〈Why Should I Trust You?〉。論文提出在單筆預測附近學一個可解釋的簡單模型,說明任何分類器為什麼這樣預測。
LIME 要找一個簡單模型 g,讓它在要解釋的樣本 x 附近最接近原模型 f,同時保持夠簡單。論文寫成 ξ(x) = argmin L(f, g, πx) + Ω(g),其中 L 是依鄰近程度 πx 加權的近似誤差,Ω(g) 用來懲罰解釋模型的複雜度。
論文作者釋出了 Python 套件 lime,可以用 pip 安裝。表格、文字、影像分別有 LimeTabularExplainer、LimeTextExplainer、LimeImageExplainer,傳入要解釋的樣本與模型的預測機率函式,就能得到各特徵對這筆預測的影響。
範例考題
在可解釋 AI(Explainable AI, XAI)的分類架構中,LIME(Local Interpretable Model-agnostic Explanations)屬於哪一類解釋技術?
- A內建可解釋模型(Intrinsic Interpretability):模型本身具有透明的決策結構
- B對話式解釋系統(Conversational AI Explainer):透過互動對話提供模型解釋
- C後處理模型解釋(post-hoc):對已訓練模型提供外部解釋
- D代理模型技術(Surrogate Model):訓練另一個簡單模型來完全取代原黑盒模型進行推論
正解是 C:後處理模型解釋(post-hoc):對已訓練模型提供外部解釋
解析:LIME 是一種後處理(post-hoc)解釋技術,它不改變原始模型,而是在模型訓練完成後,透過局部近似的方式對已訓練模型的預測結果提供解釋。它與模型本身的結構無關(model-agnostic)。
出現在這些考古題
官方公告試題的逐題解析裡,這 2 題把LIME列為延伸術語。
立即測驗
想測試你對 LIME 的掌握程度?用考古題作答
相關術語
- SHAPSHapley Additive exPlanations兩者最常被拿來對照,讀完能建立可解釋 AI 的基本分工。
- 黑箱模型Black Box ModelLIME 存在的原因,就是因為黑箱難懂。
- 人工智慧倫理AI Ethics高風險決策常需要這類解釋能力。
- 可解釋人工智慧Explainable AILIME 是這個領域最常被提到的方法之一。
- 機器學習Machine Learning
- 偏差Bias
- 公平性Fairness
- 特徵重要性Feature Importance
- 可解釋機器學習Interpretable Machine Learning
- 特徵歸因Feature Attribution
本頁內容有提到,或屬於同一組主題的術語
來源
這個術語目前沒有標註外部來源。
考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。
其他格式:Markdown 版本