AITerms 登入
自然語言處理機器學習資料處理

詞袋模型(Bag of Words)是什麼?

詞袋模型是一種簡化文本表示的方法,忽略詞語的順序和語法結構,僅統計每個詞語在文本中出現的次數,形成詞頻向量。

完整定義

詞袋模型 (Bag of Words, BoW) 是一種在自然語言處理和資訊檢索中常用的文本表示方法。它將文本視為一個無序的詞語集合,忽略詞語的順序、語法結構和上下文關係,僅僅統計每個詞語在文本中出現的頻率。這種方法簡單易懂,計算效率高,但會丟失大量的語義信息。

白話說明

你只想看一封訊息裡有哪些字,先不管順序,這種做法像不像很直覺?

你可以把詞袋模型想成只數詞、不看順序的文字表示法。

它簡單好用,但會丟掉詞序與上下文資訊。

記住這句

只數有哪些詞,不看它們怎麼排

比喻:詞袋模型就像把一篇文章裡的所有字詞,都剪下來丟進一個大袋子裡 -- 我們只關心每個詞在這個袋子裡出現了幾次,完全不理會這些詞原本是怎麼排列的、語法結構是什麼,就像只看食材種類和數量,不看食譜一樣。

容易混淆

詞袋模型 vs N 元語法?

詞袋模型:只看詞出現次數

N 元語法:會把連續詞組也納入

最關鍵的區別:詞袋忽略順序,N 元語法保留部分順序資訊

詞袋模型 vs 詞嵌入?

詞袋模型:把文字變成稀疏向量

詞嵌入:把詞變成密集向量

最關鍵的區別:前者易懂,後者更能保留語意相似性

詞袋模型 vs 上下文模型?

詞袋模型:常搭配計數或 TF-IDF

上下文模型:會看前後句來理解詞意

最關鍵的區別:詞袋只看字面,現代模型會看上下文

實際案例

垃圾郵件辨識

郵件裡出現很多促銷、免費、立刻等詞,詞袋模型能先做快速分類

情緒分析

用詞袋統計負面詞與正面詞的數量,先做一版簡單的情感判斷

演算法與應用

重點
表示
你要看什麼
每個詞一個維度
為什麼重要
適合快速做文字分類
重點
優點
你要看什麼
簡單、可解釋
為什麼重要
新手很好上手
重點
缺點
你要看什麼
忽略語序與語意
為什麼重要
碰到複雜語句就弱

情境判斷

Q1:如果兩句話詞彙幾乎一樣,但語氣完全不同,詞袋模型能分出來嗎?

通常不行,因為它看不到順序與語氣差異

Q2:如果你只想快速做一版文字分類原型,詞袋模型有沒有價值?

有,因為它簡單、好實作,常能先做出可用基線

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 2 題把詞袋模型列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本