AITerms 登入
iPAS 中級 自然語言處理特徵工程

嵌入表示(Embedding)是什麼?

嵌入表示將離散的文字或類別映射為連續稠密向量,讓模型能捕捉語義相似性並進行數學運算

同主題的術語自然語言處理

完整定義

嵌入表示是一種將高維度離散資料(如文字、圖像或圖形節點)轉換為低維度連續向量的技術。這些向量能夠捕捉原始資料的語義或結構信息,使得機器學習模型能夠更好地處理這些資料。在 iPAS 中級考試中,嵌入表示是重要的考點,考察考生對於詞嵌入、圖嵌入等技術的理解。嵌入表示廣泛應用於自然語言處理、推薦系統和知識圖譜等領域。

白話說明

你有沒有想過,為什麼推薦系統可以看出「電影和劇集很像」?

你可以把它想成,原本只是代號或文字的東西,被轉成一串可計算的向量,彼此距離就會有意義。

嵌入表示的重點不是把東西編成號碼而已,而是讓模型能看出誰接近誰、誰跟誰常一起出現。

記住這句

把離散 ID 變成會算距離的向量。

比喻:嵌入表示 就像把字典裡的每個詞,都變成一張「座標卡」 -- 意思相近的詞,座標卡上的位置就會比較靠近,這樣電腦就能理解它們的關係。

容易混淆

嵌入表示 vs 獨熱編碼

獨熱編碼只是把每個詞或類別做成一個稀疏位置。

嵌入表示會把它放進向量空間,讓相似概念更靠近。

最關鍵的區別:有沒有語義距離。

嵌入表示 vs 嵌入層

嵌入表示是概念,指把離散資料映成向量。

嵌入層是實作方式,是神經網路裡的一個層。

最關鍵的區別:抽象概念,還是具體元件。

嵌入表示 vs 編碼器輸出

編碼器輸出是整個模型處理後的結果。

嵌入表示可能只是其中一個中間表示,也可能直接拿來做下游任務。

最關鍵的區別:是不是整個模型的最終輸出。

實際案例

推薦系統裡

使用者和商品各自有 embedding,模型可以用向量距離看出誰喜歡誰。

Before:只有帳號與商品編號。After:有了向量之後,推薦才會懂相似性。

自然語言處理裡

單字可以被轉成詞向量,讓模型知道「貓」和「狗」比「貓」和「台北」更接近。

Before:只會數字化。After:開始有語義資訊。

演算法與應用

Embedding 的核心是學出一個低維、稠密的向量空間。

維度太低,表達力不夠;維度太高,計算成本和過擬合風險都會上升。

它不只用在文字,也常用在使用者、商品、圖像特徵與結構化欄位。

情境判斷

Q1(直覺題): 嵌入層和嵌入表示是一樣的嗎?

不一樣。嵌入表示是目的,嵌入層只是達成這個目的的一種做法。

Q2(判斷題): 非文字資料也能用 embedding 嗎?

可以。圖像、音訊、結構化資料都能做成 embedding,只要你能把它們轉成向量空間。

iPAS 考題

Q:嵌入表示和獨熱編碼最大的差異是什麼?

嵌入表示能學出語義距離,獨熱編碼只是在不同位置放 0/1,沒有相似性概念。

Q:嵌入表示常用在哪些地方?

文字、推薦系統、分類特徵、商品編號、使用者編號,都很常見。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,有 10 題把嵌入表示列為延伸術語,這裡列出 5 題。

立即測驗

想測試你對 嵌入表示 的掌握程度?用考古題作答

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。

其他格式:Markdown 版本