完整定義
詞袋模型 (Bag of Words, BoW) 是一種在自然語言處理和資訊檢索中常用的文本表示方法。它將文本視為一個無序的詞語集合,忽略詞語的順序、語法結構和上下文關係,僅僅統計每個詞語在文本中出現的頻率。這種方法簡單易懂,計算效率高,但會丟失大量的語義信息。
白話說明
你只想看一封訊息裡有哪些字,先不管順序,這種做法像不像很直覺?
你可以把詞袋模型想成只數詞、不看順序的文字表示法。
它簡單好用,但會丟掉詞序與上下文資訊。
記住這句
只數有哪些詞,不看它們怎麼排
比喻:詞袋模型就像把一篇文章裡的所有字詞,都剪下來丟進一個大袋子裡 -- 我們只關心每個詞在這個袋子裡出現了幾次,完全不理會這些詞原本是怎麼排列的、語法結構是什麼,就像只看食材種類和數量,不看食譜一樣。
容易混淆
詞袋模型 vs N 元語法?
詞袋模型:只看詞出現次數
N 元語法:會把連續詞組也納入
最關鍵的區別:詞袋忽略順序,N 元語法保留部分順序資訊
詞袋模型 vs 詞嵌入?
詞袋模型:把文字變成稀疏向量
詞嵌入:把詞變成密集向量
最關鍵的區別:前者易懂,後者更能保留語意相似性
詞袋模型 vs 上下文模型?
詞袋模型:常搭配計數或 TF-IDF
上下文模型:會看前後句來理解詞意
最關鍵的區別:詞袋只看字面,現代模型會看上下文
實際案例
垃圾郵件辨識
郵件裡出現很多促銷、免費、立刻等詞,詞袋模型能先做快速分類
情緒分析
用詞袋統計負面詞與正面詞的數量,先做一版簡單的情感判斷
演算法與應用
- 重點
- 表示
- 你要看什麼
- 每個詞一個維度
- 為什麼重要
- 適合快速做文字分類
- 重點
- 優點
- 你要看什麼
- 簡單、可解釋
- 為什麼重要
- 新手很好上手
- 重點
- 缺點
- 你要看什麼
- 忽略語序與語意
- 為什麼重要
- 碰到複雜語句就弱
情境判斷
Q1:如果兩句話詞彙幾乎一樣,但語氣完全不同,詞袋模型能分出來嗎?
通常不行,因為它看不到順序與語氣差異
Q2:如果你只想快速做一版文字分類原型,詞袋模型有沒有價值?
有,因為它簡單、好實作,常能先做出可用基線
常見問題
不一定。雖然現代模型更強,但詞袋在基線、解釋與小資料場景仍有用。
TF-IDF 會把太常見的詞降權,讓比較有辨識力的字更突出。
可以,但通常要先做斷詞,否則詞彙切分會很亂。
出現在這些考古題
官方公告試題的逐題解析裡,這 2 題把詞袋模型列為延伸術語。
相關術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本