AITerms 登入
模型訓練模型評估最佳化

提前終止(Early Stopping)是什麼?

提前終止是一種機器學習訓練技巧,藉由監控驗證損失,在模型過度擬合前及早停止訓練,以提高泛化能力。

完整定義

提前終止(Early Stopping)是一種廣泛應用於機器學習模型訓練的正規化策略,旨在防止模型過度擬合(Overfitting)。其基本原理是,在訓練過程中持續監控模型在一個獨立驗證集(Validation Set)上的性能指標(例如損失函數或準確度)。當模型在訓練集上的性能持續提升,但在驗證集上的性能開始停滯或惡化時,則停止訓練過程。這樣可以避免模型過度學習訓練資料中的噪音,從而提高模型在未見過的新資料上的泛化能力。提前終止是一種簡單卻非常有效的技巧,能夠節省訓練時間並提升模型品質。

白話說明

你訓練模型時,怎麼知道該在什麼時候停下來?

你可以把 提前終止 想成防止模型訓練過頭的護欄。

它其實就是用訓練流程上的控制,讓模型不要只會背題目而不會泛化。

提前終止是一種機器學習訓練技巧,藉由監控驗證損失,在模型過度擬合前及早停止訓練,以提高泛化能力。當資料不夠多、模型又很強時,這類方法特別有價值。

記住這句

驗證集開始走下坡,就別再硬跑

比喻:提前終止就像一個教練在訓練運動員時,看到運動員已經練到「極限」了,就立刻叫停 -- 如果繼續練下去,運動員反而會受傷或表現變差。在 AI 訓練中,就是避免模型學到過頭,把雜訊也當成規律。

容易混淆

vs 固定迭代次數訓練

固定迭代訓練像不管三七二十一,就跑滿設定的圈數;提前終止則像邊跑邊看錶,一旦發現跑得沒有效率或開始走下坡路,就馬上叫停,這樣既省力又能達到最佳狀態。

實際案例

案例一:提前終止 防止過擬合

模型開始只記訓練資料時,這類方法就能把它拉回來,讓驗證表現不要掉太快。

案例二:提前終止 控制訓練節奏

當驗證損失不再改善,提早停下或隨機丟棄部分神經元,都能讓模型別在錯的方向硬撐。

深入了解

這類方法的共同目標,是讓模型在訓練集和驗證集之間保持平衡

Dropout 是在模型內部做隨機遮罩,Early Stopping 是在訓練流程上踩煞車

Dice Loss 也是一種訓練目標設計,會影響模型把注意力放在哪裡

情境判斷

Q1(直覺題): 模型開始背題不會泛化時,你會想先踩哪種煞車?

可以先考慮 Dropout 或 Early Stopping 這類訓練控制。

Q2(判斷題): 訓練越久就一定越好嗎?

看情況,因為有時候再訓練只會讓驗證表現變差,這時候應該停下來或調整正則化。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 3 題把提前終止列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本