iPAS 備考專區 登入

iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃・115 年第一次・L12・第 50 題

AI 招聘系統可能有性別年齡偏差,怎麼降低風險?

原題

某招聘公司使用生成式 AI 生成面試問題與候選人評估建議。團隊發現模型可能對性別或年齡產生資料分布偏差。下列哪一種策略最能有效降低生成偏差輸出的風險?

白話

某招聘公司使用生成式 AI 生成面試問題與候選人評估建議。團隊發現模型可能對性別或年齡產生資料分布偏差,導致輸出結果帶有偏見風險。

問你:哪一種策略最能有效降低生成偏差輸出的風險?

一句話總結

面對招聘 AI 的性別年齡偏差,最直接且可執行的策略是:在生成後對輸出進行人工審查、依偏差情況修正,這是在不改動模型本身的前提下,最能有效攔截偏差輸出的後處理機制。

情境

先感受問題:AI 問了女性應徵者「你打算幾歲結婚?」

「優選人才」是一家 HR 科技公司,他們開發了一套 AI 面試助理,根據職位描述和應徵者履歷,自動生成個人化的面試問題。

使用幾個月後,HR 顧問陳怡君在回顧 AI 生成的問題清單時,發現了令人不安的模式:對女性應徵者生成的問題,比男性應徵者更常涉及「職涯計畫」「家庭規劃」「穩定性考量」;對 50 歲以上應徵者,生成的問題更常帶有「接受挑戰的意願」「跟上技術更新」這類語氣。

這些問題在法律上可能屬於歧視性問題,在台灣的就業服務法下是明令禁止的。陳怡君需要在最短時間內建立一個機制,確保這些偏差問題不會直接送到面試官手上,更不會讓應徵者看到。

她不可能馬上重新訓練整個模型,但可以在模型輸出後加一道「人工審查關卡」,讓有經驗的 HR 在每次輸出後快速掃描,有問題的立即修改,確保進入面試環境的問題都是合規的。

舊方法

其他方法為什麼處理不了眼前的問題

陳怡君想過四種方案,但只有一個能在現有條件下立即有效:

  1. 調整模型架構和參數(A):「更靈活多樣化」指的是增加輸出的多樣性,但偏差問題不是多樣性問題,而是「系統性地對特定族群生成不公平內容」。調高 temperature 讓輸出更多樣,不會消除針對性別年齡的偏差,可能反而讓偏差更難以預測和控制
  2. 增加訓練資料但不平衡(B):如果訓練資料本身就有性別年齡偏差,增加更多同樣偏差的資料,只會讓模型把偏差學得更熟練。「大量但不清理」直接加重問題
  3. 只允許高階主管使用(D):換個使用者群體不改變模型的偏差行為,高階主管也可能無意間接受或轉發有偏差的問題,而且限制使用者範圍嚴重降低系統的實用性
  4. 生成後人工審查修正(C):不需要改模型,只需要在輸出環節加入審查流程,HR 有域知識可以識別偏差問題,有問題立即修正,是在最短時間內最直接保護應徵者的機制
  5. 把「多樣化」誤以為能解決偏差:調高 temperature 讓模型輸出更隨機多樣,直覺上感覺「更多元」,但隨機不等於公平;如果訓練資料本身的偏差沒有解決,更隨機的輸出只是讓偏差以更不可預測的方式出現,審查難度反而更高

短期內最可行的是後處理干預,長期才是修改模型和訓練資料。

新方法

生成後審查:在偏差問題到達使用者之前攔截

陳怡君建立了一個「AI 輸出審查流程」,在面試問題送到面試官之前,由 HR 專員做一道審查。

建立偏差問題清單:整理出常見的歧視性問題模式(涉及婚育計畫、年齡體力、性別刻板印象),讓審查人員有具體的判斷依據,不靠個人直覺。

快速審查流程:每次 AI 生成 10 題,HR 專員在 5 分鐘內掃描一遍,有問題的立即修改或替換,確保進入面試環境的問題全部符合就業服務法規範。

回饋改善機制:把審查中發現的偏差問題記錄下來,累積足夠樣本後,回饋給技術團隊改善訓練資料和模型,逐步從源頭解決問題。

這個流程不完美,但在短期內「確保偏差輸出不影響真實招聘決策」方面是最直接有效的。

這就是選項 C 講的:在生成後對模型輸出進行人工審查,並依偏差情況修正結果,是最能有效降低生成偏差輸出風險的策略。

錯選項

為什麼其他選項是錯的

A調整模型架構與參數,使生成更靈活與多樣化

字面在說什麼

修改模型的設定讓輸出更有變化性,不要每次都生成類似的結果。

為什麼不對

「多樣化」解決的是輸出重複性問題,不是偏差問題。偏差是「系統性地對某族群不公平」,而不是「輸出不夠多樣」。調高 temperature 讓輸出更隨機,但隨機不等於公平,隨機的偏差輸出同樣是偏差輸出,且更難預測和管理。

誰會選錯

把「偏差」和「固定輸出」混淆的人,或認為「增加多樣性就能減少不公平」的人。多樣性和公平性是兩個不同的維度,調整多樣性不直接解決偏差。

B大幅增加訓練資料量,但不清理或平衡資料中的性別與年齡分布

字面在說什麼

收集更多訓練資料讓模型學更多,但不特別處理資料的族群分布問題。

為什麼不對

如果訓練資料本身就有性別年齡偏差,增加更多同樣來源的偏差資料,只會讓模型把偏差的模式學得更深。「大量但不平衡」的資料訓練出來的模型,偏差可能比原來更嚴重。清理和平衡資料才是解決偏差的正確方向,而不是單純增量。

誰會選錯

相信「資料越多模型越好」但忽略資料品質的人。資料量是必要條件,但不是充分條件,資料的代表性和平衡性同樣關鍵。

D僅允許高階主管操作系統,透過人員篩選控制生成結果

字面在說什麼

限制只有資深的高階主管能使用這套系統,透過使用者素質來管控輸出品質。

為什麼不對

偏差是模型本身的問題,不是使用者層級的問題。高階主管使用同樣的模型,得到的偏差輸出和其他人一樣,換一批使用者不會改變模型的偏差行為。此外,嚴格限制使用者讓系統幾乎失去實用價值,是解決問題最差的方式。

誰會選錯

認為「讓更有判斷力的人使用就能避免問題」的人。即使是有判斷力的高階主管,面對 AI 生成的大量輸出,也難以在正常工作流程中每次都仔細核查偏差,且這個方法本身就把偏差問題放給使用者解決而不是系統解決。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 115 年第一次 iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃 第 50 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。