完整定義
訓練輪次(Epoch)是一種在機器學習中用於訓練模型的迭代次數。一個 Epoch 代表模型完整地遍歷一次訓練資料集。透過多次 Epoch,模型能夠逐步調整其內部參數,以更好地擬合訓練資料,從而提升模型的準確性和泛化能力。過少的 Epoch 可能導致模型欠擬合,而過多的 Epoch 可能導致過擬合。
快速摘要
搜尋意圖:如果你在找「Epoch 是什麼」或「和 Batch、Iteration 差在哪」,先記住:Epoch 是模型完整看完一次整份訓練資料。
重點:Epoch 指模型把整個訓練集跑完一輪。若資料會切成多個 batch 才餵進模型,那一個 epoch 會包含多次 iteration。
實用情境:適合用在理解 loss curve、early stopping 與「多訓練幾輪到底有沒有幫助」,也是 iPAS 常見的訓練流程題。
下一步:先把 epoch / batch / iteration 的粒度分清楚,再回頭看 learning rate、early stopping,訓練流程就不容易混。
白話說明
你練習考題時,會不會想知道自己把整份講義看完幾次才算夠?
你可以把訓練輪次想成,模型把整個訓練資料集完整看過一遍的次數。
它其實就是模型完成一次全資料掃描的單位,跟批次大小、迭代次數和學習率一起影響訓練效果。
記住這句
一輪是全資料看完一次,不是只跑一個批次。
比喻:訓練輪次就像學生複習課本的次數 -- 讀一遍(一個 Epoch)可能還不熟,多讀幾遍會越來越懂;但如果讀太多遍,就會變成死記硬背,反而無法應變新題目(過擬合)。
容易混淆
Epoch vs Iteration
Epoch 是把整份資料看完一次,Iteration 是處理一個批次的更新步驟。
Epoch vs Batch Size
Batch size 是一次餵多少資料,Epoch 是整份資料被看過幾輪。
Epoch vs Step
Step 常常和 iteration 類似,指一次參數更新,不是完整看完資料集。
最關鍵的區別: Epoch 看「整體看了幾輪」,Iteration 和 Step 看「中間更新了幾次」。
實際案例
案例一:影像分類訓練
你把貓狗照片訓練 20 個 epoch,前幾輪準確率快速上升,後面開始變慢,這很正常。
案例二:早停法判斷
訓練到第 15 個 epoch 時,訓練集還在變好,但驗證集開始下滑,這通常是過擬合的訊號,應該考慮早停。
演算法與應用
Epoch 數不是越大越好。太少,模型還沒學夠,容易欠擬合。太多,模型可能把訓練資料背太熟,開始過擬合。實務上常搭配驗證集、早停法和學習率調整,一起決定要訓練幾輪。
Epoch、Batch Size、Iteration 三者的關係
這三個詞常被搞混,其實關係是固定的算式:
每個 epoch 的 iteration 數 = 訓練樣本數 ÷ batch size
Epoch(訓練輪次):整份訓練資料完整跑過一次。
Batch size(批次大小):一次餵給模型幾筆資料。
Iteration(迭代):更新一次模型權重,也就是跑完一個 batch。
舉例,訓練資料 10,000 筆、batch size 設 100:
所以「訓練 20 個 epoch」跟「訓練 2,000 步」在這個設定下講的是同一件事。論文寫 step 或 iteration、框架的進度條寫 epoch,換算就是上面這條式子。
- 項目
- 1 個 epoch 的 iteration 數
- 數量
- 100
- 項目
- 跑 20 個 epoch 的總 iteration 數
- 數量
- 2,000
- 項目
- 權重被更新的總次數
- 數量
- 2,000
該設幾個 epoch
沒有通用答案,因為它取決於資料量、模型大小與學習率。但判斷方法是固定的:看驗證集的誤差曲線。
驗證誤差還在往下掉,代表 epoch 不夠。驗證誤差開始往上翹而訓練誤差還在掉,代表已經開始過擬合,那個轉折點就是該停的地方。
實務上不用手動猜,直接開提早停止(early stopping):設一個耐心值,例如驗證誤差連續 5 個 epoch 沒有改善就停下來,並且回存表現最好的那一版權重。
微調(fine-tuning)預訓練模型時 epoch 通常很少,1 到 3 個就足夠,因為模型本來就已經學會大部分東西,跑太多輪反而會把原本的能力洗掉。
情境判斷
Q1(直覺題): 如果你把 10 萬筆資料切成 100 個批次,模型把這 100 個批次都跑完一次,這算幾個 Epoch?
1 個 Epoch,因為整份資料已經完整看過一輪。
Q2(判斷題): 訓練集越跑越好,驗證集卻先升後降,這時候還要一直增加 Epoch 嗎?
通常不要。這種情況多半是過擬合,應該考慮早停、正則化或調整資料與模型設定。
常見比較
常見問題
不一定,要看驗證集表現。如果驗證集還在變好,可以繼續;如果驗證集開始變差,就沒必要硬撐。
最穩的做法是看驗證損失和驗證準確率,搭配早停法,不要只靠經驗亂猜。
沒有直接關係。Epoch 是訓練資料被掃過的次數,Generation 通常是生成模型輸出內容時用的詞,意思不同。
不是。epoch time 通常指 Unix 時間,也就是從 1970 年 1 月 1 日 00:00:00 UTC 起算經過的秒數,是電腦記錄時間的方式。機器學習的 epoch 則是把整份訓練資料完整跑過一次,兩者只是同一個英文字。
機器學習裡常譯為訓練輪次或「輪」,例如「訓練 10 個 epoch」也常說成「訓練 10 輪」。epoch 一般的英文字義是時代、紀元,所以有些資料會譯成「時期」或「世代」,閱讀時要依上下文判斷。
Epoch 指模型完整看完一次整份訓練資料的過程。不是一次更新權重,而是一輪完整訓練。
Batch 是單次送進模型的一小批資料;Epoch 是所有 batch 全部跑完一次。資料集越大、batch 越小,一個 epoch 裡的 batch 數就越多。
不一定。Epoch 太少可能學不夠,太多可能過擬合,所以常搭配驗證集、loss curve 或 early stopping 來判斷何時停止。
出現在這些考古題
官方公告試題的逐題解析裡,這 1 題把訓練輪次列為延伸術語。
相關術語
延伸學習
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本