AITerms 登入
深度學習電腦視覺模型評估

梯度加權類激活圖(Grad-CAM)是什麼?

Grad-CAM是一種可視化技術,利用梯度資訊來突出顯示輸入圖像中對模型預測最重要的區域,提供模型決策的可解釋性。

完整定義

梯度加權類激活圖 (Grad-CAM) 是一種用於深度學習模型的可視化技術,特別是卷積神經網路 (CNN)。它使用目標概念相對於最後一層卷積層的梯度資訊,生成一個粗略的顯著性圖,突出顯示輸入圖像中對模型預測特定類別最重要的區域。Grad-CAM 允許使用者理解模型為何做出特定決策,從而提高模型的可解釋性和可信度。

白話說明

你有沒有看過 AI 判斷一張圖後,特別想知道它到底在看哪裡?

你可以把 Grad-CAM 想成把模型注意的區域畫成熱圖。

它讓你看到哪些像素區域對分類結果影響最大,方便檢查模型是不是看對地方。

記住這句

看熱圖,不是看模型心情。

比喻:Grad-CAM 就像醫生做「X光片」一樣 -- 它能幫我們「看透」AI 模型,找出圖像中哪些區域是讓模型做出特定判斷的關鍵,而不是只知道結果。

容易混淆

Grad-CAM vs CAM

CAM 要改模型結構

Grad-CAM 通常可以直接套用在現有模型上

最關鍵的區別是要不要改架構

Grad-CAM vs 顯著性地圖

顯著性地圖偏向看輸入對輸出的敏感程度

Grad-CAM 會結合梯度和最後卷積層資訊

最關鍵的區別是看敏感點,還是看類別相關區域

實際案例

醫療影像檢查

醫師用 Grad-CAM 檢查模型是不是把肺炎判斷建立在真正病灶上,而不是片子邊角的標記。

產品照片辨識

如果模型老是把品牌 logo 當成主體,Grad-CAM 就能讓你發現它偏看的位置,方便回頭修資料。

演算法與應用

Grad-CAM 主要是從目標類別的梯度,回推到最後一層卷積特徵圖。

它提供的是粗粒度解釋,能幫忙除錯,但不代表模型真的只看那一塊。

中英對照與常見說法

說法
梯度加權類別激活圖
出現場合
完整中文譯名
說法
类激活图
出現場合
簡體常見簡稱
說法
Gradient-weighted Class Activation Mapping
出現場合
英文全名
說法
Grad-CAM / Grad CAM
出現場合
常見寫法,中間的連字號常被省略
說法
CAM
出現場合
前身方法,Grad-CAM 是它的推廣版本

它是怎麼算出來的

第一步,選一個要解釋的類別,把該類別的分數對最後一層卷積的特徵圖做偏微分,得到每個特徵圖的梯度。

第二步,把每張特徵圖的梯度做全域平均池化,得到一個純量,當作這張特徵圖的權重。這個權重代表「這張特徵圖對這個類別有多重要」。

第三步,用這些權重把所有特徵圖加權相加。

第四步,過一個 ReLU,只留正貢獻的部分,因為負的部分代表支持其他類別的證據。

第五步,把結果放大回原圖尺寸,疊在原圖上顯示。

因為用的是最後一層卷積的特徵圖,解析度很低(常見是 7×7 或 14×14),所以 Grad-CAM 的熱區是一團一團的,看不出細節輪廓。這是它的特性不是缺陷,它回答的是「模型在看哪個區域」,不是「哪些像素」。

跟 CAM 與其他方法的關係

方法
CAM
需要改模型嗎
需要,架構必須是全域平均池化接全連接
解析度
低
特點
Grad-CAM 的前身,限制多
方法
Grad-CAM
需要改模型嗎
不需要,任何 CNN 都能用
解析度
低
特點
通用性好,是最常用的基準
方法
Grad-CAM++
需要改模型嗎
不需要
解析度
低
特點
同一張圖有多個同類物件時定位較好
方法
Guided Grad-CAM
需要改模型嗎
不需要
解析度
高
特點
把 Grad-CAM 跟導引反向傳播相乘,兼顧類別區分與細節
方法
Score-CAM
需要改模型嗎
不需要
解析度
低
特點
不用梯度,改用遮罩後的分數變化,避免梯度雜訊

用的時候要注意什麼

選錯層會得到沒用的圖。 太淺的層只反映邊緣與紋理,太深的層在有些架構裡空間資訊已經被壓掉。慣例是取最後一個卷積區塊的輸出。

視覺 Transformer 不能直接套。 ViT 沒有卷積特徵圖,要改用注意力權重或針對 Transformer 設計的變體。

熱區對,不代表模型是對的。 模型可能正確框到物件卻分錯類。Grad-CAM 只告訴你「它在看哪」,不告訴你「它看懂了沒」。

它最實用的價值是除錯與抓資料問題:發現模型辨識肺炎時盯著影像角落的院方標記,或辨識某品牌時只看浮水印,這類問題用 Grad-CAM 幾分鐘就能發現。

情境判斷

Q1: 熱圖亮在背景上,這代表模型就一定錯了嗎?

不一定,要看背景是否和類別本來就有關,像場景分類時背景也可能是訊號。

Q2: 你要確認模型是不是偷看水印,應該用什麼工具?

可以先用 Grad-CAM 看它是否把注意力放在水印或角落標記上。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 2 題把梯度加權類激活圖列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本