AITerms 登入
機器學習深度學習模型訓練

代價函數(Cost Function)是什麼?

代價函數是所有訓練樣本損失函數的平均值,用於評估模型在整個訓練集上的表現,並作為優化算法的目標。

完整定義

代價函數(Cost Function)是衡量機器學習模型在整個訓練集上表現的指標。它通常是所有訓練樣本損失函數的平均值或總和。代價函數用於評估模型的整體性能,並作為優化算法的目標,通過最小化代價函數來尋找最佳模型參數。

白話說明

你有沒有在訓練模型、想知道它到底有沒有變準時,還在想這件事到底該怎麼看?

把它想成模型整體成績單上的總分。

它會把每筆資料的誤差平均起來,讓你知道模型在整體資料上的表現。

訓練演算法就是一直想把這個分數壓低,模型才會慢慢學對。

記住這句

看整體平均誤差,不是只看一題。

比喻:代價函數就像一個「考試成績單」,它會幫你評估你的 AI 模型在所有考題上的總體表現有多差 -- 分數越高(代價越大),表示模型犯的錯誤越多,表現越不好;分數越低,表示模型表現越好,就像學生考得越好一樣。

容易混淆

objective-function

vs 損失函數 (Loss Function):損失函數像一道單獨的「考題分數」,它只衡量模型在一個樣本上的預測錯誤程度;代價函數則是所有考題分數的「平均值」,它提供一個整體性的指標,告訴你模型在整個訓練集上的平均表現如何,是模型優化的最終目標。

常見混淆:代價函數 vs objective-function

目的函數看的是整體要最小化或最大化的目標,代價函數是其中用來衡量誤差的核心部分。

實際案例

垃圾信分類

每封信都有一個誤差,代價函數把整批信件的誤差平均後,讓模型知道要往哪裡修正。

房價預測

模型對每個房子的預測都會有偏差,代價函數把偏差統整成一個數字。

演算法與應用

1. 損失函數看單筆資料,代價函數看整個資料集的平均結果。

2. 梯度下降會依照代價函數的變化方向更新參數,讓總誤差慢慢下降。

3. 如果代價函數設計不對,模型可能學得很慢,或是學到不符合任務目標的方向。

情境判斷

Q1:模型在某一筆資料上錯很多,但整體平均誤差不高,這代表什麼?

代表單筆表現可能不好,但整體訓練目標還算穩定,要再看是不是少數樣本特別難。

Q2:如果代價函數下降很慢,你會先懷疑什麼?

先看學習率、特徵尺度和損失設計,因為這些都會影響下降速度。

常見問題

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本