AITerms 登入
電腦視覺機器人學AI應用

顯著性地圖(Saliency Map)是什麼?

顯著性地圖是一種圖像處理技術,用於突出顯示圖像中最引人注目的區域。它通過計算每個像素的顯著性得分來實現,得分越高表示該區域越顯著。

完整定義

顯著性地圖是一種視覺注意力模型,旨在模擬人類視覺系統如何快速識別圖像中最引人注目的區域。它通過計算圖像中每個像素或區域的顯著性得分來實現,得分越高表示該區域越有可能吸引人的注意力。顯著性地圖廣泛應用於電腦視覺、圖像處理和機器人學等領域。

白話說明

你有沒有想過,模型看圖片時,到底是看哪一塊才做出判斷?

你可以把顯著性地圖想成模型在圖片上畫的熱區圖,告訴你它比較注意哪裡。

它重要是因為可解釋性常需要知道模型依據什麼做決策,而不是只知道結果。

記住這句

熱得最明顯的地方,就是模型最在意的地方。

比喻:顯著性地圖就像是人眼看一張圖時,會自動聚焦的「熱點圖」-- 它用顏色深淺標示出圖片中哪些部分最吸引注意力,或對模型決策最關鍵。

容易混淆

顯著性地圖 vs 注意力視覺化

顯著性地圖多半看輸入對輸出的影響

注意力視覺化看的是注意力權重分布

最關鍵的區別是梯度影響還是注意力分配。

顯著性地圖 vs 分割

顯著性地圖只標出重要區域

分割要把物件邊界完整切出來

最關鍵的區別是熱區提示和精準輪廓。

實際案例

醫療影像

醫師可以看模型是不是把注意力放在病灶附近,而不是放在影像角落。

自動駕駛

如果模型在辨識交通號誌時把注意力放到不相關的背景,就代表它可能學歪了。

演算法與應用

顯著性地圖常來自梯度,代表輸入微小變動對輸出有多大影響。

Grad-CAM 是常見做法之一,會用卷積層特徵做熱區視覺化。

它適合做輔助解釋,但不代表就是模型真正的思考過程。

中英對照與常見說法

這個詞在兩個領域各有意思。電腦視覺傳統上指「人眼會先注意到畫面的哪裡」,那是視覺注意力的建模。可解釋 AI(XAI) 裡指「模型是看哪些像素做出這個判斷」。現在多數技術文章講的是後者。

說法
顯著性圖、顯著圖
出現場合
台灣常見譯法
說法
顯著性地圖
出現場合
較完整的譯法
說法
显著性图
出現場合
簡體寫法
說法
Saliency Map
出現場合
英文原名
說法
熱力圖(heatmap)
出現場合
視覺呈現方式的泛稱,顯著性圖常以熱力圖形式畫出來

怎麼算出來

最基本的做法是梯度法(vanilla gradient):把模型對目標類別的輸出,對輸入影像的每個像素做偏微分。梯度大的像素代表「稍微改動它,預測就會明顯改變」,也就是重要。取絕對值再依通道取最大,就得到一張跟原圖同尺寸的重要度圖。

純梯度法的問題是雜訊很多,看起來像一堆散點。後續方法都在處理這件事:

方法
Grad-CAM
核心想法
用最後一層卷積的特徵圖加權平均,解析度低但語意清楚、不易被雜訊干擾
方法
SmoothGrad
核心想法
對輸入加多次隨機雜訊各算一次再平均,把雜訊洗掉
方法
Integrated Gradients
核心想法
從一張基準圖(通常是全黑)到原圖沿路徑積分梯度,滿足完備性等公理
方法
遮擋法(occlusion)
核心想法
用方塊逐一遮住影像不同區域,看預測掉多少。最直觀但最慢

讀圖時要小心的三件事

顯著性圖不等於因果解釋。 它顯示的是模型的敏感區域,不代表模型「理解」了那裡的內容。

有些方法會通過健全性檢查(sanity check)失敗。 研究發現,把模型權重隨機打亂之後,某些顯著性方法產生的圖幾乎沒變,代表那張圖主要反映的是影像的邊緣結構而不是模型的行為。使用前值得先做這個檢查。

它最實用的用途是抓資料洩漏。 模型辨識「馬」卻把注意力放在角落的浮水印、辨識肺炎卻看向醫院的標記,這類問題用顯著性圖一眼就能發現,這也是它在實務上最有價值的地方。

情境判斷

Q1(直覺題):如果你想看模型在圖片上最在意哪裡,通常會看什麼?

通常會看顯著性地圖或類似熱區圖。

Q2(判斷題):顯著性地圖看起來很亮,就代表模型一定判斷正確嗎?

不一定。熱區只是解釋線索,不等於真正的因果證據。

常見問題

範例考題

在深度學習模型的分析與驗證過程中,研究人員有時會利用「顯著性圖(Saliency Map)」來輔助理解模型行為。下列何者最符合此技術的主要用途?

  1. A量化各輸入特徵對模型整體預測準確度的平均影響程度
  2. B標示輸入資料中對單一預測結果影響較大的區域或部分
  3. C評估在不同模型參數設定下,預測結果的穩定性變化
  4. D比較不同模型架構在測試資料上的泛化能力差異
到題目頁作答

出現在這些考古題

官方公告試題的逐題解析裡,這 1 題把顯著性地圖列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本