AITerms 登入
機器學習模型訓練模型評估

集成學習(Ensemble Learning)是什麼?

集成學習透過結合多個弱學習器,建立一個強學習器,以提高模型的準確性和泛化能力,常見方法包括Bagging、Boosting和Stacking。

完整定義

集成學習是一種機器學習技術,它透過結合多個弱學習器(例如,決策樹、支持向量機或神經網路),建立一個強學習器。集成學習的目標是提高模型的準確性和泛化能力,減少過擬合的風險。常見的集成學習方法包括Bagging、Boosting和Stacking。

白話說明

你有沒有遇過幾個人各自判斷普通,但湊在一起反而更準?

你可以把集成學習想成,把多個模型的意見合在一起,讓整體判斷比單一模型更穩。

它其實就是透過投票、平均或再學一次的方式,把多個弱學習器變成一個更強、更不容易翻車的系統。

記住這句

多個模型一起想,通常比單打獨鬥穩。

比喻:集成學習就像組建一支夢幻團隊 -- 每個隊員(弱學習器)可能只擅長一小部分,但當他們合作,互相彌補不足時,就能發揮出遠超單一隊員的強大戰力,解決更複雜的問題。

容易混淆

集成學習 vs 單一模型

單一模型靠自己做全部判斷,集成學習則是讓多個模型一起出手。

Bagging vs Boosting

Bagging 是平行訓練再投票,Boosting 是依序修正前一輪錯誤。

Bagging vs Stacking

Bagging 直接投票或平均,Stacking 會再訓練一個元學習器來整合各模型輸出。

最關鍵的區別: 先看模型是「一起投票」、還是「一輪一輪改錯」、或是「再交給第二層模型統整」。

實際案例

案例一:垃圾郵件過濾

一個模型可能會被某些新型垃圾信騙過,但把文字分類器、規則模型和樹模型一起合併,誤判率通常會下降。

案例二:信用風險評估

銀行做風險分數時,常會把多種模型結果一起考慮,因為不同模型對不同特徵的敏感度不一樣。

演算法與應用

集成學習常見三條路線。Bagging 透過重抽樣和投票降低方差,Random Forest 就是很典型的例子。Boosting 透過連續修正錯誤提高準確率,但也更容易把資料學太死。Stacking 會把多個模型的輸出再交給第二層模型學習,適合想把不同模型特性一起吃進來的場景。

情境判斷

Q1(直覺題): 你有三個分類器,最後用多數決決定答案,這算不算集成學習?

算,因為集成學習最基本的精神就是把多個模型的結果整合在一起。

Q2(判斷題): 你的單一模型已經很強了,還要不要硬做集成?

看情況。若資料量不大、延遲要求高,集成可能太重;若你最在意穩定度和泛化,集成常常值得。重點是成本和收益要一起看。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 2 題把集成學習列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本