iPAS 備考專區 登入

iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃・115 年第一次・L12・第 1 題

模型偏差風險怎麼降低?

原題

某零售企業導入生成式 AI 商品推薦系統。測試結果顯示,在購物行為、偏好設定與價格區間相同的情況下,不同客戶族群收到的推薦商品類型仍出現明顯差異,且差異方向不易以既有行銷策略解釋。若在模型架構與推論設定皆未調整情形下,專案目標是優先降低可能的模型偏差風險,下列何者最合理?

白話

某零售企業的生成式 AI 商品推薦系統,在購物行為、偏好設定與價格區間都相同的情況下,不同客戶族群收到的推薦商品類型仍出現明顯差異,而且這個差異用既有行銷策略解釋不了。模型架構和推論設定都沒有調整過,現在的目標是優先降低可能的模型偏差風險。

問你:在不調整模型架構與推論設定的前提下,哪個做法最合理?

一句話總結

模型偏差的根源在訓練資料,重新檢視樣本分布與代表性是降低偏差風險最直接的切入點,而不是限制輸出或改模型架構。

情境

先感受問題:推薦系統為什麼會「差別對待」?

假設你在「好購物」電商任職,負責導入 AI 商品推薦系統。系統上線後,主管發現一個奇怪現象:

  • 王小明(台北,25 歲,月消費 3,000 元)推薦清單:運動用品、電子配件
  • 陳美玲(台北,25 歲,月消費 3,000 元)推薦清單:家居用品、護膚產品

兩個人的購物行為、偏好設定、消費金額完全一樣,但推薦結果卻截然不同,而且差異明顯沿著性別分組。行銷部門說:「我們從來沒有設定『男生看這個、女生看那個』的規則啊!」

這不是模型故意歧視,而是訓練資料裡早就藏著偏見:如果男性購買運動用品的歷史資料多、女性的少,模型就從這個不均衡的資料裡學到了錯誤的關聯,然後把它複製到推薦結果上。

舊方法

不找資料問題,只改輸出,會怎樣?

如果「好購物」的工程師沒有去檢查資料,而是用別的方式「修表面」:

  1. 限制只推高銷量商品:所有人看到的都是暢銷榜,個人化消失,但偏差的根本原因還在,只是被掩蓋了
  2. 增加推薦隨機性:亂槍打鳥,推薦多樣了,但不精準,使用者體驗變差,轉換率下滑
  3. 縮小模型參數:模型變簡單了,但資料本身的偏見還在,小模型只會更快把偏見學進去
  4. 繼續上線等觀察:問題沒處理,偏差持續發生,監管風險累積,等到被媒體報導才發現
  5. 只改推論門檻:強行壓低某族群的推薦分數,是補丁不是根治,而且可能讓其他族群的體驗變差

這幾個做法都有一個共同盲點:跳過了問題的源頭,直接在下游打補丁。

新方法

偏差要從資料下手

「好購物」的 AI 工程師決定用正確的方式處理:回到訓練資料,找出樣本分布的問題。

第一步,做樣本分布分析:把訓練資料按照族群切開,看每個族群的購買記錄數量、商品類別比例是否均衡。結果發現:歷史資料裡,男性的運動用品購買記錄是女性的 4 倍,但這只是因為過去的行銷活動主要針對男性投放,不代表女性真的不買。

第二步,評估代表性:這批資料能不能代表「所有可能的顧客」?顯然不能,因為它帶著歷史行銷偏見。

第三步,制定資料修正策略:可以補充更多元的資料、做資料重採樣(re-sampling)讓各族群比例平衡、或在訓練時加入公平性約束。

這就是選項 A 講的:重新檢視訓練資料的樣本分布與代表性,這才是降低模型偏差風險最根本的方法。

錯選項

為什麼其他選項是錯的

B限制推薦結果僅顯示高銷量商品

字面在說什麼

把推薦清單限縮到暢銷商品,每個人看到差不多的東西,表面上消除了族群差異。

為什麼不對

這是掩蓋症狀,不是治病。偏差的根源(不均衡的訓練資料)沒有被處理,只是強行讓輸出看起來一樣。個人化能力也因此消失,系統的商業價值大幅降低。

誰會選錯

直覺認為「推薦結果一樣 = 沒有歧視」的人。但強制一致和真正公平是兩件事,前者是犧牲個人化換來表面平等。

C降低模型參數規模以簡化決策邏輯

字面在說什麼

把模型縮小,讓決策邏輯變簡單,希望藉此減少偏差。

為什麼不對

題目說架構不動。而且即使縮小模型,如果訓練資料有偏差,簡單模型只會更快把偏差學進去,甚至更難修正,因為它沒有能力捕捉複雜的公平性規律。

誰會選錯

混淆「過擬合」和「偏差」的人。過擬合確實可以靠縮小模型改善,但公平性偏差的源頭在資料,不在模型複雜度。

D提高推薦結果的隨機性以增加多樣性

字面在說什麼

在推薦時加入隨機因子,讓結果更多樣,希望打破固定的偏差模式。

為什麼不對

隨機性可以增加多樣性,但不能消除偏差,只是讓偏差的表現變得更隨機而已。而且隨機推薦會傷害準確率,使用者轉換率下降,反而帶來新問題。

誰會選錯

把「多樣性」和「公平性」混為一談的人。多樣性是推薦內容豐不豐富的問題;公平性是不同族群受到不同對待的問題,兩者不同。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 115 年第一次 iPAS AI 應用規劃師 初級 科目二 生成式 AI 應用與規劃 第 1 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。