---
title: "Top-k採樣（Top-k Sampling）"
slug: top-k-sampling
language: zh-TW
source: https://aiterms.tw/terms/top-k-sampling
updated_at: 2026-06-22
tags: [大型語言模型, 生成式AI, Prompt工程, AI基礎]
ipas_term: false
---

# Top-k採樣（Top-k Sampling）

限制每次詞彙選擇只從機率最高的 k 個候選詞彙中進行隨機採樣，減少低機率詞彙被錯誤選中的風險。

## 完整說明

Top-k 採樣是一種解碼策略，透過限制詞彙選擇的範圍來改進文本生成品質。在每個生成步驟，模型先對所有詞彙進行排序，然後只考慮機率最高的 k 個詞彙，剩餘詞彙的機率重新歸零，再進行採樣。這種方法避免了低機率詞彙（通常是錯誤或不相關的詞彙）被意外選中，同時保留了高機率詞彙中的多樣性。

## 常見問題

### Top-k 採樣中，k 應該設定多大？

k 的最佳值取決於應用場景和詞彙表大小。對於詞彙表大小為 50,000 左右的典型 LLM，k=40-100 通常能產生良好的結果。程式碼生成或翻譯等需要高精度的任務可用 k=10-30；創意寫作或對話可用 k=50-100。通常需要透過實驗來找到最佳值。初始化時，k=40 是一個不錯的起點。

### Top-k 採樣中，如果前 k 個詞彙中有很多機率接近的詞彙會怎樣？

當前 k 個詞彙的機率分布相對均勻時，Top-k 保留的多樣性較高。例如，如果前 50 個詞彙的機率都在 0.1%-1% 之間，歸一化後每個詞彙的選擇機率相近，採樣會相對「民主」。這其實是 Top-k 的優勢之一：它自適應地保留了高機率區域的多樣性，同時切斷 long tail。

### 如果設定的 k 值大於詞彙表大小會怎樣？

如果 k 大於詞彙表大小（例如詞彙表有 30,000 詞，但設 k=50,000），Top-k 採樣將退化為無限制採樣，沒有任何詞彙被排除。這在功能上等同於沒有使用 Top-k 限制。大多數實現會自動將 k 限制為詞彙表大小，或發出警告。這種情況通常表示配置錯誤。

---

來源：https://aiterms.tw/terms/top-k-sampling
快查頁：https://aiterms.tw/terms/top-k-sampling
最後更新：2026/06/22
深度解說：https://aiterms.tw/learning/what-is-top-k-sampling