AITerms 登入
iPAS 初級 AI倫理與治理模型評估AI應用

公平性(Fairness)是什麼?

AI 公平性要求模型對不同族群的決策結果無系統性歧視,需透過資料平衡與演算法設計確保一致待遇,是負責任 AI 的核心原則。

同主題的術語模型評估AI應用

完整定義

公平性 (Fairness) 是一種衡量 AI 系統對不同群體或個體產生相同或相似結果的程度的指標。它用於確保 AI 系統不會歧視或不公平地對待特定群體,並避免產生不合理的社會影響。在 iPAS 考試中,公平性是評估考生對 AI 倫理和社會責任意識的重要環節,要求考生了解不同公平性指標和緩解偏差的方法。

白話說明

你有沒有想過,AI 如果拿來篩履歷或核貸款,結果卻老是偏向某些族群,該怎麼辦?

你可以把它想成,模型不只要答對,還要避免系統性偏袒某些人。

公平性不是把所有人都當一樣,而是要檢查資料、規則和結果有沒有把某些群體放在不利位置。

記住這句

不只要答對,還要答得公正。

比喻:AI 公平性就像法官審判案件 -- 無論被告的背景、膚色或性別是什麼,法官都應該基於事實和法律一視同仁地做出判決,不能因為個人偏見而對某些群體有系統性的差別待遇,這才是真正的公正。

容易混淆

公平性 vs 準確率

準確率只看結果對不對。

公平性還要看不同族群是不是被同樣對待。

最關鍵的區別:答對了沒有,和有沒有偏袒。

公平性 vs 偏差

偏差通常是模型或資料本身帶來的傾斜。

公平性是在想辦法檢查和修正這種傾斜。

最關鍵的區別:問題來源,還是修正目標。

公平性 vs 隱私

隱私在乎資料能不能被看見。

公平性在乎不同群體有沒有被公平對待。

最關鍵的區別:資料保護,還是結果公正。

實際案例

貸款審核

銀行若只看歷史資料,可能把過去的偏見學進模型。

Before:只看通過率。After:檢查不同族群的錯誤率和拒絕率,才知道有沒有偏。

徵才篩選

履歷模型可能因為訓練資料不平衡,對某些學校或背景特別有利。

Before:只追求錄取預測準不準。After:還要確認不同族群都沒有被系統性排除。

深入了解

公平性通常要先定義你在乎哪種公平,例如群體公平、機會公平或預測公平。

接著要看資料來源、標註方式、閾值設定和後續監控,因為偏見可能藏在每一層。

有時候要靠資料重加權、閾值調整、後處理或模型設計一起修正,沒有單一萬靈丹。

情境判斷

Q1(直覺題): 為什麼 AI 系統不能只看準確率?

因為結果看似很準,仍可能對某些族群不公平。

Q2(判斷題): 如果一個模型整體準確率很高,就代表它一定公平嗎?

看情況。整體準確率高,不代表每個族群的錯誤率都平衡,所以還要做分群檢查。

iPAS 考題

Q:為什麼 AI 系統不能只看準確率?

因為結果看似很準,仍可能對某些族群不公平。

Q:公平性常要搭配哪類措施?

資料平衡、閾值調整、偏差檢查與持續監控都很常見。

常見問題

立即測驗

想測試你對 公平性 的掌握程度?用考古題作答

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

參考來源:en.wikipedia.org

考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。

其他格式:Markdown 版本