完整定義
特徵工程是一種將原始資料轉換為更適合機器學習模型使用的特徵的過程。它涉及選擇、轉換和建立新的特徵,以提高模型的效能和準確性。良好的特徵工程能夠顯著提升模型的預測能力。在 iPAS 考試中,特徵工程是評估候選人資料處理和模型優化能力的重要環節。
白話說明
你有沒有遇過,資料明明一大堆,模型卻還是學不太好?
你可以把特徵工程想成幫原始資料做整理和加工,把模型比較好懂的資訊做出來,讓它更容易看出規律。
它重要,是因為資料本身不會自己變成好特徵,很多時候模型準不準,先看你餵進去的是不是好特徵。
記住這句
特徵做得好,模型才有材料可學。
比喻:特徵工程就像大廚在準備食材 -- 原始資料是未經處理的食材,而大廚會根據食譜(模型)的需求,將食材切塊、醃製、調味(創建、轉換特徵),並選出最適合的食材(選擇特徵),這樣才能做出美味的料理(最佳模型表現)。
容易混淆
特徵工程 vs 特徵擷取
特徵工程偏向人為設計和轉換,像把生日變成年齡。
特徵擷取偏向從原始資料自動抽出表示,像把圖片轉成向量特徵。
特徵工程 vs 模型訓練
特徵工程是在準備輸入。
模型訓練是在學怎麼用這些輸入做預測,兩者前後順序不同。
實際案例
信用評分
把收入、負債比、繳款紀錄整理成更有判斷力的欄位,模型才比較能分出風險。
電商推薦
把最近點擊、瀏覽次數、品類偏好整理成特徵,推薦結果通常會比只看原始交易表更準。
演算法與應用
常見做法包含數值轉換、類別編碼、時間特徵、交互特徵和缺值處理。
在傳統機器學習裡,它常直接影響模型上限,在深度學習裡,仍會影響輸入品質與訓練穩定度。
iPAS 考題
Q:特徵工程的主要目的為何?
讓原始資料變成更有資訊量、更容易被模型學習的輸入,進而提升預測效果。
Q:為什麼特徵工程常被視為重要前處理?
因為很多模型不是資料越多就越準,而是特徵是否能表達問題本質更關鍵。
中英對照與常見手法
常見的具體手法:
時間欄位拆解。 一個時間戳記可以拆成年、月、日、星期幾、是不是假日、是不是月底、距離上次購買幾天。原始的時間戳記對模型幾乎沒用,拆完之後每一個都可能是強特徵。
類別欄位編碼。 類別少用獨熱編碼,有順序用標籤編碼,類別多用目標編碼或嵌入。
數值欄位轉換。 右偏資料取對數,有意義的分界做分箱,兩個欄位相除得到比率(例如營收除以員工數)。
聚合特徵。 同一個使用者過去 7 天、30 天的次數與平均,這在推薦與風控上通常是很有用的一批特徵。
- 中文
- 特徵工程
- 英文
- feature engineering
- 做什麼
- 從原始資料造出對模型有用的欄位
- 中文
- 特徵選擇
- 英文
- feature selection
- 做什麼
- 從既有欄位裡挑出有用的
- 中文
- 特徵抽取
- 英文
- feature extraction
- 做什麼
- 把原始資料轉換成新的表示
- 中文
- 特徵縮放
- 英文
- feature scaling
- 做什麼
- 調整數值範圍,正規化與標準化都屬於這一類
- 中文
- 特徵重要性
- 英文
- feature importance
- 做什麼
- 衡量每個欄位對預測的貢獻
為什麼深度學習沒有取代它
常聽到的說法是深度學習能自動學特徵,所以不用做特徵工程。這句話只在特定條件下成立。
影像、語音、文字上大致成立。 這些資料的原始形式(像素、波形、字元)本身就有豐富結構,卷積與注意力能自己學出層次化的表示,人工設計反而不如模型。
表格資料上完全不成立。 表格資料的欄位是人定義的、彼此關係任意、樣本數通常也不夠深度模型自己摸索。這也是梯度提升樹在表格任務上長年勝過神經網路的原因之一。
時間與領域知識永遠不會被取代。 「這個客戶距離上次下單幾天」「這台設備距離上次保養幾小時」這種特徵,模型不可能自己從欄位裡推出來,因為它不知道業務規則。
一個實務上的判斷:如果你花一天做特徵工程帶來的提升,超過換一個更大的模型,那代表資料裡還有沒被表達出來的結構,繼續做特徵比換模型划算。
情境判斷
Q1:把類別欄位轉成數字,這算特徵工程嗎?
算,因為你在改變資料表達方式,讓模型能更好地使用它。
Q2:如果深度學習已經很強,特徵工程就完全不重要嗎?
不一定,深度學習能少做一些手工設計,但資料品質差、欄位混亂時,特徵工程還是很有價值。
常見問題
不一定,懂資料和業務脈絡常比會不會套工具更重要。
不一樣,資料清理是修錯資料,特徵工程是把資料變得更能幫模型判斷。
會有這個風險,所以通常要搭配驗證集和交叉驗證檢查效果。
有,但它適合先擴充候選方向,最後仍常需要人工判斷哪些特徵真的合理。
常見做法包括處理缺失值、把類別資料轉成獨熱編碼、對數值做標準化或分箱、從日期拆出星期與月份、把兩個欄位相乘或相除做出新特徵,以及刪掉沒有幫助的特徵。要選哪幾種看資料型態與模型,例如樹模型通常不需要特徵縮放。
最常見的是用 pandas 整理欄位與產生新特徵,再用 scikit-learn 的 preprocessing 與 impute 模組做標準化、編碼與缺失值補值,並用 Pipeline 把步驟串起來,避免測試資料的資訊在前處理時洩漏到訓練過程。
範例考題
某零售業者建立顧客行為預測模型,資料集中包含「年消費金額」、「平均單筆交易金額」及「會員年資」等數值型特徵。資料分析顯示,部分金額特徵呈現高度偏態分布,少數樣本的數值顯著高於多數觀測值。為降低極端值對模型學習穩定性的影響,下列哪一種特徵工程方法最適合?
- A對數轉換(Log Transformation)
- B區間化(Binning)
- COne-hot 編碼(One-hot Encoding)
- D隨機重抽樣(Random Resampling)
正解是 A:對數轉換(Log Transformation)
解析:對數轉換能有效壓縮高度偏態分布的資料範圍,使極端值的影響降低,讓資料分布更接近常態。這是處理右偏分布數值特徵最常用的特徵工程方法。
出現在這些考古題
官方公告試題的逐題解析裡,有 23 題把特徵工程列為延伸術語,這裡列出 5 題。
立即測驗
想測試你對 特徵工程 的掌握程度?用考古題作答
相關術語
- 機器學習Machine Learning特徵工程通常是模型前面最實際的加分項。
- 特徵擷取Feature Extraction先分清自動抽取和人為設計,理解會更完整。
- 特徵縮放Feature Scaling很多模型在做特徵工程後,還會接著處理尺度問題。
- 特徵選擇法Feature Selection特徵做多了不一定更好,這個術語會教你怎麼留下重點。
- 資料管線Data Pipeline特徵工程通常會被放進穩定的資料流程裡運作。
- 深度學習Deep Learning
- 監督式學習Supervised Learning
- 非監督式學習Unsupervised Learning
- 嵌入表示Embedding
- 自動特徵工程Automated Feature Engineering
- 獨熱編碼One-hot Encoding
- 資料前處理Data Preprocessing
來源
參考來源:ipd.nat.gov.tw
考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。
其他格式:Markdown 版本