---
title: "顯著性地圖（Saliency Map）"
slug: saliency-map
language: zh-TW
source: https://aiterms.tw/terms/saliency-map
updated_at: 2026-07-29
tags: [電腦視覺, 機器人學, AI應用, 特徵工程, 模型評估]
ipas_term: false
---

# 顯著性地圖（Saliency Map）

> **你有沒有想過，模型看圖片時，到底是看哪一塊才做出判斷？**
>
> 你可以把顯著性地圖想成模型在圖片上畫的熱區圖，告訴你它比較注意哪裡。
>
> 它重要是因為可解釋性常需要知道模型依據什麼做決策，而不是只知道結果。
>
> 你可以把它想成一個把抽象概念拉回日常判斷的提示，先知道它解決什麼問題，再看技術細節。

### 容易混淆

> **顯著性地圖 vs 注意力視覺化**
>
> 顯著性地圖多半看輸入對輸出的影響
> 注意力視覺化看的是注意力權重分布
> 最關鍵的區別是梯度影響還是注意力分配。
>
> **顯著性地圖 vs 分割**
>
> 顯著性地圖只標出重要區域
> 分割要把物件邊界完整切出來
> 最關鍵的區別是熱區提示和精準輪廓。
>

### 記住這句就好

> 熱得最明顯的地方，就是模型最在意的地方。

### 實際案例

> **醫療影像**
> 醫師可以看模型是不是把注意力放在病灶附近，而不是放在影像角落。
>
> **自動駕駛**
> 如果模型在辨識交通號誌時把注意力放到不相關的背景，就代表它可能學歪了。
>

### 算法與應用

> 顯著性地圖常來自梯度，代表輸入微小變動對輸出有多大影響。
> Grad-CAM 是常見做法之一，會用卷積層特徵做熱區視覺化。
> 它適合做輔助解釋，但不代表就是模型真正的思考過程。

### 中英對照與常見說法

| 說法 | 出現場合 |
| --- | --- |
| 顯著性圖、顯著圖 | 台灣常見譯法 |
| 顯著性地圖 | 較完整的譯法 |
| 显著性图 | 簡體寫法 |
| Saliency Map | 英文原名 |
| 熱力圖（heatmap） | 視覺呈現方式的泛稱，顯著性圖常以熱力圖形式畫出來 |

> 這個詞在兩個領域各有意思。**電腦視覺傳統上**指「人眼會先注意到畫面的哪裡」，那是視覺注意力的建模。**可解釋 AI（XAI）** 裡指「模型是看哪些像素做出這個判斷」。現在多數技術文章講的是後者。

### 怎麼算出來

> 最基本的做法是**梯度法（vanilla gradient）**：把模型對目標類別的輸出，對輸入影像的每個像素做偏微分。梯度大的像素代表「稍微改動它，預測就會明顯改變」，也就是重要。取絕對值再依通道取最大，就得到一張跟原圖同尺寸的重要度圖。
>
> 純梯度法的問題是雜訊很多，看起來像一堆散點。後續方法都在處理這件事：
>
> | 方法 | 核心想法 |
> | --- | --- |
> | Grad-CAM | 用最後一層卷積的特徵圖加權平均，解析度低但語意清楚、不易被雜訊干擾 |
> | SmoothGrad | 對輸入加多次隨機雜訊各算一次再平均，把雜訊洗掉 |
> | Integrated Gradients | 從一張基準圖（通常是全黑）到原圖沿路徑積分梯度，滿足完備性等公理 |
> | 遮擋法（occlusion） | 用方塊逐一遮住影像不同區域，看預測掉多少。最直觀但最慢 |

### 讀圖時要小心的三件事

> **顯著性圖不等於因果解釋。** 它顯示的是模型的敏感區域，不代表模型「理解」了那裡的內容。
>
> **有些方法會通過健全性檢查（sanity check）失敗。** 研究發現，把模型權重隨機打亂之後，某些顯著性方法產生的圖幾乎沒變，代表那張圖主要反映的是影像的邊緣結構而不是模型的行為。使用前值得先做這個檢查。
>
> **它最實用的用途是抓資料洩漏。** 模型辨識「馬」卻把注意力放在角落的浮水印、辨識肺炎卻看向醫院的標記，這類問題用顯著性圖一眼就能發現，這也是它在實務上最有價值的地方。

### 情境判斷

> **Q1（直覺題）：如果你想看模型在圖片上最在意哪裡，通常會看什麼？**
>
> → 通常會看顯著性地圖或類似熱區圖。
>
> **Q2（判斷題）：顯著性地圖看起來很亮，就代表模型一定判斷正確嗎？**
>
> → 不一定。熱區只是解釋線索，不等於真正的因果證據。
>

### 常見問題

> **Q：顯著性地圖的計算複雜嗎？**
> A：要看方法，簡單版可以很快，基於深度模型的版本通常更吃算力。
>
> **Q：顯著性地圖可以用在影片嗎？**
> A：可以，通常是逐幀分析或把多幀結果串起來看。
>
> **Q：怎麼評估顯著性地圖品質？**
> A：常會看 AUC、NSS、CC，或搭配人工檢視。
>

### 相關術語

> - **注意力機制**：自注意力和環狀注意力都屬於它的延伸。
> - **注意力可視化**：看熱區圖時常會一起出現。
> - **可解釋人工智慧**：透明和可解釋常是同一組問題。
> - **梯度加權類激活圖**：顯著性地圖最常見的相關方法之一。
> - **黑箱模型**：規則提取和顯著性地圖都在處理它。

---

來源：https://aiterms.tw/terms/saliency-map
快查頁：https://aiterms.tw/terms/saliency-map
最後更新：2026/07/29
深度解說：https://aiterms.tw/learning/what-is-saliency-map