AITerms 登入
自然語言處理生成式AI模型訓練

貪婪解碼(Greedy Decoding)是什麼?

貪婪解碼是一種序列生成方法,在每個時間步選擇概率最高的詞作為輸出,直到生成終止符號或達到最大長度。它簡單快速,但可能陷入局部最佳解。

完整定義

貪婪解碼是一種簡單的序列生成方法,它在每個時間步選擇模型預測概率最高的詞作為輸出序列的一部分。這種方法的優點是速度快且易於實現,但缺點是它只考慮當前時間步的最佳選擇,而忽略了未來時間步的影響,因此容易陷入局部最佳解,導致生成的序列質量較差。

白話說明

你有沒有看過 AI 每次都選眼前最像對的字,結果整句越寫越怪?

你可以把貪婪解碼想成每一步都只挑第一名。

它快又簡單,但因為不看後面可能發生什麼,所以常會掉進局部最佳解。

記住這句

每一步都只拿第一名。

比喻:貪婪解碼就像一個只看眼前利益的人 -- 每一步都只選當下看起來最好的選項,雖然走得很快,但可能因此錯過後面更好的路徑,最終結果不一定是最優的。

容易混淆

貪婪解碼 vs 集束搜尋

貪婪解碼每步只留一個候選

集束搜尋會保留多個候選一起比較

最關鍵的區別是單一路徑,還是多路並行

貪婪解碼 vs 隨機抽樣

貪婪解碼選機率最高的詞

抽樣會保留一定隨機性

最關鍵的區別是固定選機率最高的詞,還是保留變化

實際案例

即時語音轉文字

如果你很在意延遲,貪婪解碼可以先快速吐出可讀結果。

快速基準測試

在做模型初步驗證時,貪婪解碼常被拿來當簡單又穩定的 baseline。

演算法與應用

它的優點是可預測、低成本,缺點是容易產生重複或不自然的長句。

如果你在乎品質,通常會改看 beam search 或加入抽樣策略。

情境判斷

Q1: 你做的是即時應用,最在意反應速度,會考慮什麼解碼法?

貪婪解碼常是最簡單的起點。

Q2: 你在寫長篇故事,希望句子多樣一些,還會只用貪婪解碼嗎?

通常不會,因為它太容易走向單一路徑。

常見問題

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本