AITerms 登入
機器學習深度學習模型訓練

對抗性穩健(Adversarial Robustness)是什麼?

對抗性穩健是指機器學習模型在面對惡意設計的對抗樣本時,仍能維持其預測準確性的能力,抵抗攻擊。

完整定義

對抗性穩健性是指機器學習模型抵抗對抗性攻擊的能力。對抗性攻擊是指對輸入數據進行微小但精心設計的擾動,使模型產生錯誤的預測。一個具有良好對抗性穩健性的模型,即使在面對這些擾動時,也能保持其預測的準確性。

白話說明

你有沒有看過圖片只被動幾個像素,模型就把貓認成狗?

你可以把對抗性穩健想成模型面對「刻意搗亂」時的抗壓能力,輸入就算被小幅修改,也還能維持原本判斷。它關心的不是一般資料有沒有看懂,而是有人故意做手腳時會不會失控。

這很重要,因為真實系統一旦被攻擊者盯上,錯一次就可能造成安全事故,不只是少拿幾分而已。

記住這句

面對故意亂改的輸入,模型還能不能答對。

比喻:對抗性穩健就像是 AI 模型打了一劑「防毒針」-- 即使面對那些專門設計來欺騙它的「偽裝病毒」(對抗樣本),它也能一眼識破,不會被騙,依然能做出正確的判斷。

容易混淆

對抗性穩健 vs 對抗性攻擊

對抗性攻擊是出手修改輸入。

對抗性穩健是模型能不能扛住這種修改。

最關鍵的區別:一個是攻,一個是守。

對抗性穩健 vs 一般泛化能力

一般泛化能力是面對沒看過的正常資料。

對抗性穩健是面對被故意改過的資料。

最關鍵的區別:一個是新樣本,一個是敵意樣本。

對抗性穩健 vs 穩健性

穩健性是大範圍的耐受能力。

對抗性穩健是穩健性裡專門針對攻擊的那一塊。

最關鍵的區別:對抗性穩健更聚焦在惡意擾動。

實際案例

交通標誌辨識

若停止標誌被貼上幾個小貼紙,模型就誤認成速限標誌,這代表對抗性穩健不足,對自駕系統會很危險。

人臉辨識登入

如果攻擊者只用小幅遮擋或貼圖就能騙過系統,登入安全就會出問題,所以人臉系統常需要更高的對抗性穩健。

演算法與應用

常見提升方法

對抗訓練、輸入預處理、特徵正則化、對抗樣本偵測,都是常見作法。

評估方式

不只看正常準確率,也要看在不同攻擊強度下的表現,才知道模型是不是只會在測試集上看起來很強。

情境判斷

Q1(直覺題): 圖片只被加了幾個不明顯的擾動,模型就誤判,這代表什麼?

對抗性穩健不足,模型扛不住刻意設計的輸入改動。

Q2(判斷題): 一個模型在正常資料上很準,就一定有對抗性穩健嗎?

不一定,這要看情況。正常資料表現好,只代表一般泛化不錯,不代表面對攻擊時也能守住。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 3 題把對抗性穩健列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本