---
title: "視覺模型可靠性（Reliability in Vision）"
slug: reliability-in-vision
language: zh-TW
source: https://aiterms.tw/terms/reliability-in-vision
updated_at: 2026-07-30
tags: [電腦視覺, 模型可靠性, 對抗訓練, 不確定性估計, AI安全]
ipas_term: false
---

# 視覺模型可靠性（Reliability in Vision）

電腦視覺模型在分佈偏移、對抗攻擊、不確定性估計等挑戰下維持穩定預測品質的能力評估框架。

## 完整說明

視覺模型可靠性（Reliability in Vision）是評估電腦視覺系統在現實部署條件下可信賴程度的研究領域，涵蓋模型對分佈外資料（out-of-distribution data）的穩健性、對對抗性樣本（adversarial examples）的抵抗力、不確定性估計（uncertainty estimation）的準確性、以及在邊緣案例（edge cases）下預測失敗的可預測性。可靠性是自動駕駛、醫療影像、安防等安全關鍵應用的核心需求。

## 常見問題

### 視覺模型可靠性包含哪些主要研究面向？

視覺模型可靠性是一個多維度的研究領域，主要包含四個核心面向。第一是分佈穩健性：評估模型在訓練資料分佈之外的場景（不同相機、光照、天氣等）的效能，常用 ImageNet-C、ImageNet-R 等基準評估。第二是對抗穩健性：評估模型對精心設計的微小輸入擾動的抵抗力，使用 FGSM、PGD 等攻擊方法進行測試，對抗訓練是目前主流防禦策略。第三是不確定性估計與校準：評估模型是否能在預測不確定時給出低置信度，以及輸出置信度是否與實際準確率相符，MC Dropout、Deep Ensembles、溫度縮放是主要工具。第四是失效模式分析：系統性地識別哪類輸入（如特定人口族群、特殊場景、邊緣案例）會導致模型失敗，確保模型在部署前的安全性評估足夠全面。這四個面向共同構成了視覺 AI 系統從「實驗室達標」到「真實世界可信賴」的評估框架。

### 什麼是對抗性樣本？視覺模型為什麼容易受到攻擊？

對抗性樣本是對原始輸入（如一張貓的照片）施加人眼幾乎察覺不到的微小像素擾動後得到的修改版本，但這個修改版本能讓深度神經網路以極高置信度做出完全錯誤的預測（如把貓識別為飛機）。深度神經網路容易受到這類攻擊的根本原因是：神經網路學到的是高維特徵空間中的統計模式，而非人類直覺上的語義特徵；在高維空間中，存在大量沿著「準確率提升方向」正交的方向，攻擊者可以在這些方向上添加微小擾動而不改變人類感知，卻大幅改變網路輸出。FGSM 攻擊方法計算損失函數對輸入像素的梯度，沿梯度方向添加一步固定大小的擾動；PGD 攻擊則是多步迭代版本，能生成更強力的對抗樣本。對抗訓練（用對抗樣本增廣訓練集）是目前公認最有效的防禦方法，但代價是在乾淨圖片上的準確率會有所下降。

### 為什麼視覺模型即使準確率很高也可能不可靠？

高準確率與高可靠性是兩個不同的維度，一個模型可以在標準測試集上準確率達到 99%，但在真實部署中表現遠不如此，主要原因有三。第一是測試集偏差：標準測試集往往與訓練資料的分佈非常接近，無法代表真實世界的多樣性（不同地區的街道影像、不同患者族群的醫療影像等）；在分佈偏移情境下，準確率可能大幅下降。第二是過度自信問題：深度神經網路的 softmax 輸出在面對從未見過的輸入類型（OOD 樣本）時，仍可能輸出 90% 以上的置信度，讓系統以為自己的錯誤預測非常可靠。第三是切片效能不均衡：整體準確率可能很高，但在特定子群（如膚色較深的人臉、罕見氣候條件下的道路）上準確率可能顯著更低，這種不均衡的失效模式在部署後才會被發現，可能引發嚴重的安全或公平性問題。因此，評估視覺模型的可靠性需要超越單一準確率數字，進行多維度的系統性評估。

---

來源：https://aiterms.tw/terms/reliability-in-vision
快查頁：https://aiterms.tw/terms/reliability-in-vision
最後更新：2026/07/30
深度解說：https://aiterms.tw/learning/what-is-reliability-in-vision