AITerms 登入
iPAS 中級 模型訓練模型評估AI倫理與治理

偏差(Bias)是什麼?

偏差是模型對特定族群或特徵產生系統性錯誤傾向,源自訓練資料不平衡或演算法設計缺陷

同主題的術語模型訓練模型評估

完整定義

偏差 (Bias) 是一種系統性的誤差,用於描述模型預測結果與真實值之間的平均差異。偏差可能源於訓練資料的代表性不足、模型假設的簡化,或是演算法本身的限制。在 iPAS 考試中,理解偏差的來源和影響,以及如何減輕偏差,是評估考生對模型評估和公平性意識的重要指標。

白話說明

模型老是偏向同一邊,不管資料怎麼變都差不多往那個方向錯,這算什麼問題?

你可以把偏差想成系統性偏離真相的傾向,像箭一直射同一邊。

它可能來自資料不平衡、模型太簡單,或設計上本來就有偏向。

記住這句

每次都往同一邊錯,多半就是偏差高

比喻:偏差就像一個人戴著有色眼鏡看世界 -- 他會習慣性地對某些人事物產生預設立場或誤判,因為他的「鏡片」(模型)或「視野」(訓練資料)一開始就帶有偏頗。

容易混淆

偏差 vs 方差?

偏差:系統性地往某方向錯

方差:對不同資料很不穩定

最關鍵的區別:偏差看方向一致,方差看穩不穩

偏差 vs 誤差?

偏差:有時也會指公平性偏見

誤差:泛指預測和真值的差距

最關鍵的區別:在模型評估和公平議題裡,偏差的語意不完全一樣

偏差 vs 過擬合?

偏差:常和欠擬合有關

過擬合:模型把訓練資料記太熟

最關鍵的區別:偏差高常是學不夠,過擬合則是記太多

實際案例

貸款審核

模型對某些族群總是偏嚴格,這可能是資料分布或特徵設計造成的偏差

影像辨識

如果訓練資料幾乎都來自白天,模型一到夜間就一直判錯,也是一種系統性偏差

iPAS 考題

Q:偏差和方差有什麼不同?

偏差是系統性錯誤,方差是對不同資料的敏感程度。

Q:偏差高通常代表什麼?

通常代表模型太簡單或學習不足,容易欠擬合。

演算法與應用

重點
來源
你要看什麼
資料、模型、流程
為什麼重要
偏差不一定只來自模型本身
重點
偵測
你要看什麼
群體比較、誤差分析
為什麼重要
要看是不是某些族群特別受影響
重點
修正
你要看什麼
補資料、改特徵、調模型
為什麼重要
降低系統性偏離

三種 bias 不要搞混

Bias 是 AI 領域最容易誤解的字之一,因為它在三個不同層次上各有一個意思,中文翻譯也不一樣。

第一種,統計偏差。 出現在偏差與變異數權衡(bias-variance tradeoff)裡。偏差高代表模型太簡單、抓不住資料的真實規律,也就是欠擬合。用線性模型去配一條明顯彎曲的關係,就是典型的高偏差。

第二種,演算法偏見。 這是資料或流程造成的不公平。招募模型因為歷史資料裡某性別錄取率較低,就學會壓低該性別的分數,這叫偏見,不是統計上的偏差。處理方式也完全不同,前者要換模型,後者要檢查資料來源、標註流程與評估切面。

第三種,偏置項。 純粹是數學上的一個可學習常數,讓函數不必通過原點。它跟前兩種完全沒有關係,只是剛好同名。

讀文獻或跟人討論時,先確認講的是哪一種。這三個東西的成因、量測方式與解法沒有一項相同。

場合
統計與模型評估
英文
bias
中文
偏差
指的是什麼
模型的系統性誤差,跟變異數(variance)成對出現
場合
公平性與倫理
英文
bias
中文
偏見
指的是什麼
模型對特定族群產生不公平的結果
場合
神經網路結構
英文
bias term
中文
偏置項
指的是什麼
每個神經元加的那個常數,跟權重一起被訓練

情境判斷

Q1:訓練和測試都很差,而且錯誤方向很一致,這更像偏差還是方差?

更像偏差,因為它是系統性地錯在同一邊

Q2:如果模型在不同資料上忽高忽低,但平均來看不一定偏一邊,這更像什麼?

更像方差,因為不穩定性比固定方向的錯誤更明顯

常見問題

範例考題

某連鎖零售企業使用生成式 AI 協助規劃門市補貨策略。決策時需同時考慮多項彼此相關的因素,例如:庫存水位、促銷活動、區域銷售差異與物流限制。專案團隊發現,AI 雖能逐步說明推論過程,但對於多條件之間的相互影響掌握不足,導致建議結果偶有偏差。若希望透過提示工程(Prompt Engineering)改善此問題,下列哪一種策略最為適合?

  1. AChain of Thought,要求模型逐步展開推論
  2. BTree of Thoughts,增加多種推論路徑探索
  3. CGraph Prompting,以結構化方式呈現條件與關聯
  4. DZero-shot Prompting,避免範例影響模型判斷
到題目頁作答

某招聘公司使用生成式 AI 生成面試問題與候選人評估建議。團隊發現模型可能對性別或年齡產生的資料分布偏差。下列哪一種策略最能有效降低生成偏差輸出的風險?

  1. A調整模型架構與參數,使生成更靈活與多樣化
  2. B大幅增加訓練資料量,但不清理或平衡資料中的性別與年齡分布
  3. C在生成後對模型輸出進行人工審查,並依偏差情況修正結果
  4. D僅允許高階主管操作系統,透過人員篩選控制生成結果
到題目頁作答

出現在這些考古題

官方公告試題的逐題解析裡,這 1 題把偏差列為延伸術語。

立即測驗

想測試你對 偏差 的掌握程度?用考古題作答

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

參考來源:en.wikipedia.org

考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。

其他格式:Markdown 版本