完整定義
均方誤差是一種常用的模型評估指標,用於衡量預測值與實際值之間的平均差異程度。它是將預測誤差的平方和取平均得到的結果,數值越小代表模型的預測精度越高。均方誤差易於計算且具有良好的數學性質,在迴歸問題中被廣泛應用於評估模型的性能。
白話說明
你有沒有發現,有些模型只錯一點點沒事,但一旦錯很大就整個失真?
你可以把均方誤差想成,先把每次預測的差距平方,再算平均,所以大錯會被放大。
它重要在於,很多回歸模型都拿它當訓練目標,因為它很適合逼模型不要犯大錯。
記住這句
錯越大,扣分越重,因為它把誤差平方了。
比喻:MSE 就像一個嚴格的教官 -- 他對每個錯誤都會懲罰,但對於「大錯特錯」的行為,他會加倍處罰,因為他把錯誤平方了,所以犯大錯的代價會比犯小錯高很多。
容易混淆
均方誤差 vs 平均絕對誤差
均方誤差:平方後平均,大誤差會被加重。
平均絕對誤差:直接平均絕對值,對離群值比較溫和。
最關鍵的區別:MSE 會更在乎大錯。
均方誤差 vs 均方根誤差
均方誤差:單位是平方後的結果。
均方根誤差:把 MSE 開根號,回到原始尺度。
最關鍵的區別:RMSE 比 MSE 更容易直接理解。
實際案例
溫度預測
如果模型把氣溫預測錯 1 度和錯 5 度一起算,MSE 會明顯懲罰那個錯 5 度的預測,讓模型更怕大偏差。
需求預測
補貨系統最怕一兩天預測差太多,MSE 會逼模型把那些尖峰需求也顧到,避免一次估錯就大缺貨。
演算法與應用
MSE 常和高斯噪聲假設一起出現,因為平方誤差在數學上很好處理。
它對離群值敏感,所以如果資料裡有極端點,訓練會被拉得比較重。
訓練深度回歸模型時,MSE 幾乎是最常見的起點。
公式與計算
MSE 是預測值與真實值差距的平方平均:
MSE = (1/n) × Σ (y_i − ŷ_i)²
y 是真實值,ŷ 是預測值,n 是樣本數。先取差、再平方、再平均。
實際算一次,四筆預測:
誤差平方總和是 42,除以 4 筆,MSE = 10.5。
注意最後一筆:誤差 5 貢獻了 25,佔總和的六成。平方讓大誤差的權重被放大,這是 MSE 最重要的性質。
- 真實值 y
- 10
- 預測值 ŷ
- 12
- 誤差
- −2
- 誤差平方
- 4
- 真實值 y
- 20
- 預測值 ŷ
- 18
- 誤差
- 2
- 誤差平方
- 4
- 真實值 y
- 30
- 預測值 ŷ
- 33
- 誤差
- −3
- 誤差平方
- 9
- 真實值 y
- 40
- 預測值 ŷ
- 35
- 誤差
- 5
- 誤差平方
- 25
MSE、RMSE、MAE 差在哪,怎麼選
選擇的判斷很直接。
你最怕偶爾錯得很離譜,例如預測交貨時間、醫療劑量,選 MSE 或 RMSE,讓模型優先把大錯壓下來。
資料裡本來就有離群值,而且你不想被它們牽著走,選 MAE,它對離群值穩健得多。
要跟別人解釋數字,選 RMSE,因為它的單位跟原始資料一樣。房價預測的 MSE 是「萬元的平方」,沒人聽得懂;RMSE 是「平均差幾萬元」,一句話就講完。
另外 MSE 在數學上處處可微而且是凸函數,這是它長年當回歸預設損失函數的原因,不只是因為好解釋。
- 指標
- MSE
- 算法
- 誤差平方的平均
- 單位
- 原單位的平方
- 對大誤差
- 懲罰最重
- 指標
- RMSE
- 算法
- MSE 開根號
- 單位
- 與原始資料相同
- 對大誤差
- 懲罰重
- 指標
- MAE
- 算法
- 誤差絕對值的平均
- 單位
- 與原始資料相同
- 對大誤差
- 一視同仁
情境判斷
Q1(情境題): 如果你的資料常有幾筆超大錯誤,MSE 合適嗎?
要小心。MSE 會把大錯放得很大,可能讓模型過度追那些極端值,這時 MAE 或 Huber loss 可能更穩。
Q2(情境題): 如果你就是想讓模型更怕大失誤,該選哪個指標?
MSE 很適合,因為平方懲罰會讓大誤差明顯變重。
常見問題
代表預測和真實值的平均平方差越小,模型通常更準。
因為它可微分、好最佳化,而且對大誤差懲罰明確。
不一定。若資料離群值很多,MSE 可能太敏感,這時要考慮其他損失。
MSE = (1/n) Σ (yᵢ − ŷᵢ)²,也就是把每筆資料的預測誤差平方後取平均。例如實際值是 3、5,預測值是 2、7,誤差平方是 1 和 4,MSE = (1 + 4) / 2 = 2.5。單位是原始單位的平方,想換回原單位就開根號得到 RMSE。
兩者都是「差的平方取平均」,但比較的對象不同。標準差量的是資料離自己的平均值有多分散,均方誤差量的是預測值離實際值有多遠。如果把每筆預測都設成資料的平均值,MSE 就等於母體變異數,開根號就是母體標準差。
最常用的是 scikit-learn 的 sklearn.metrics.mean_squared_error(y_true, y_pred),傳入實際值與預測值就會回傳 MSE。也可以用 NumPy 自己算:np.mean((y_true - y_pred) 2)。想直接得到 RMSE,較新版本的 scikit-learn 另外提供 root_mean_squared_error。
出現在這些考古題
官方公告試題的逐題解析裡,這 4 題把均方誤差列為延伸術語。
相關術語
- 平均絕對誤差Mean Absolute Error和 MSE 對照最能看出大錯懲罰差異。
- 均方根誤差Root Mean Squared Error把平方誤差轉回原始單位時會用到。
- 損失函數Loss FunctionMSE 最常直接被拿來當損失。
- 偏差Bias常和 MSE 一起看模型誤差來源。
- 過擬合Overfitting若模型追太多細節,MSE 可能看起來很好但泛化差。
- 欠擬合Underfitting
- 準確率Accuracy
- 判定係數R-squared
- 交叉熵損失Cross-entropy
- 偏差方差權衡Bias-Variance Tradeoff
本頁內容有提到,或屬於同一組主題的術語
來源
參考來源:en.wikipedia.org
其他格式:Markdown 版本