完整定義
集束搜尋是一種廣泛應用於序列生成任務的搜尋演算法,例如機器翻譯和文本摘要。它通過在每個解碼步驟中保留多個候選序列(稱為集束)來工作,從而探索更廣泛的可能輸出,並降低陷入局部最佳解的風險。集束大小決定了演算法的計算複雜度和搜索空間。
白話說明
翻譯一句話時,如果不只看目前最好的路徑,而是多留幾條備選,會不會更穩?
你可以把集束搜尋想成每一步都保留幾個最有希望的候選答案。
它常用在序列生成,像翻譯、摘要、字幕生成這類任務。
記住這句
每一步都留幾條備案,避免太早走死路
比喻:集束搜尋就像你走迷宮時,不會只選眼前看起來最好的一條路,而是同時記住幾條最有可能成功的路徑,每走一步就更新這些路徑,避免太早放棄更好的選擇。
容易混淆
集束搜尋 vs 貪婪解碼?
集束搜尋:保留多個候選路徑
貪婪解碼:每一步只選當下最佳
最關鍵的區別:前者留備案,後者只看眼前最好的一條
集束搜尋 vs 暴力搜尋?
集束搜尋:用集束寬度控制保留數量
暴力搜尋:把所有可能都展開
最關鍵的區別:Beam 是折衷做法,不是全試也不是只試一條
集束搜尋 vs 分類器?
集束搜尋:常用在生成式模型
分類器:輸出固定類別標籤
最關鍵的區別:前者找序列,後者選類別
實際案例
機器翻譯
句子前半段多個翻譯分支都還不錯,集束搜尋能保留較好的整體候選
圖片描述
模型在描述圖像時會同時保留幾個詞組組合,最後挑出整體最順的句子
演算法與應用
- 重點
- 集束寬度
- 你要看什麼
- 每一步保留幾個候選
- 為什麼重要
- 越大通常越準但越慢
- 重點
- 優點
- 你要看什麼
- 降低早期誤判風險
- 為什麼重要
- 比貪婪解碼更穩
- 重點
- 缺點
- 你要看什麼
- 計算量較高
- 為什麼重要
- 不是越大就一定越好
情境判斷
Q1:如果你只想快速產出一條句子,貪婪解碼是不是更省?
是,因為它每一步只選一條路,速度快但風險也較高
Q2:如果生成結果常在前幾個字就走偏,Beam search 有沒有機會改善?
有,因為它能保留幾條備用路徑,降低太早犯錯的機率
常見問題
不一定。它會提高成本,還可能讓結果在某些任務上變得不自然。
通常不會,它是啟發式方法,不是全域最優保證。
不一樣,維特比通常是動態規劃,Beam 是保留有限候選的搜尋。
相關術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本