完整定義
公平性 (Fairness) 是一種衡量 AI 系統對不同群體或個體產生相同或相似結果的程度的指標。它用於確保 AI 系統不會歧視或不公平地對待特定群體,並避免產生不合理的社會影響。在 iPAS 考試中,公平性是評估考生對 AI 倫理和社會責任意識的重要環節,要求考生了解不同公平性指標和緩解偏差的方法。
白話說明
你有沒有想過,AI 如果拿來篩履歷或核貸款,結果卻老是偏向某些族群,該怎麼辦?
你可以把它想成,模型不只要答對,還要避免系統性偏袒某些人。
公平性不是把所有人都當一樣,而是要檢查資料、規則和結果有沒有把某些群體放在不利位置。
記住這句
不只要答對,還要答得公正。
比喻:AI 公平性就像法官審判案件 -- 無論被告的背景、膚色或性別是什麼,法官都應該基於事實和法律一視同仁地做出判決,不能因為個人偏見而對某些群體有系統性的差別待遇,這才是真正的公正。
容易混淆
公平性 vs 準確率
準確率只看結果對不對。
公平性還要看不同族群是不是被同樣對待。
最關鍵的區別:答對了沒有,和有沒有偏袒。
公平性 vs 偏差
偏差通常是模型或資料本身帶來的傾斜。
公平性是在想辦法檢查和修正這種傾斜。
最關鍵的區別:問題來源,還是修正目標。
公平性 vs 隱私
隱私在乎資料能不能被看見。
公平性在乎不同群體有沒有被公平對待。
最關鍵的區別:資料保護,還是結果公正。
實際案例
貸款審核
銀行若只看歷史資料,可能把過去的偏見學進模型。
Before:只看通過率。After:檢查不同族群的錯誤率和拒絕率,才知道有沒有偏。
徵才篩選
履歷模型可能因為訓練資料不平衡,對某些學校或背景特別有利。
Before:只追求錄取預測準不準。After:還要確認不同族群都沒有被系統性排除。
深入了解
公平性通常要先定義你在乎哪種公平,例如群體公平、機會公平或預測公平。
接著要看資料來源、標註方式、閾值設定和後續監控,因為偏見可能藏在每一層。
有時候要靠資料重加權、閾值調整、後處理或模型設計一起修正,沒有單一萬靈丹。
情境判斷
Q1(直覺題): 為什麼 AI 系統不能只看準確率?
因為結果看似很準,仍可能對某些族群不公平。
Q2(判斷題): 如果一個模型整體準確率很高,就代表它一定公平嗎?
看情況。整體準確率高,不代表每個族群的錯誤率都平衡,所以還要做分群檢查。
iPAS 考題
Q:為什麼 AI 系統不能只看準確率?
因為結果看似很準,仍可能對某些族群不公平。
Q:公平性常要搭配哪類措施?
資料平衡、閾值調整、偏差檢查與持續監控都很常見。
常見問題
常用指標有統計均等差異、機會均等差異和預測均等差異。
會,有時要知道族群差異才能檢查偏誤,所以得在兩者之間找平衡。
資料、模型、產品與政策團隊都要一起負責,不是單一職位能解決。
公平性的英文是 fairness。AI 脈絡下常說 fairness in machine learning 或 algorithmic fairness,指模型不因性別、族群等敏感屬性而讓某些群體系統性地處於不利。常一起出現的 equity 偏向依需要給予不同資源,意思不完全相同。
通常不行。人口統計均等、均等機率等公平性指標的數學定義不同,一般情況下無法同時成立。Google 的機器學習詞彙表也指出,沒有適用所有問題的單一公平性指標,必須依應用情境決定要守住哪一種公平,並說明取捨。
立即測驗
想測試你對 公平性 的掌握程度?用考古題作答
相關術語
來源
參考來源:en.wikipedia.org
考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。
其他格式:Markdown 版本