AITerms 登入
深度學習神經網路生成式AI

潛在空間(Latent Space)是什麼?

潛在空間是機器學習模型學習到的高維資料的壓縮表示,它捕捉了資料的底層結構和關係,並將其映射到一個低維空間。

完整定義

潛在空間 (Latent Space) 是機器學習,特別是深度學習中一個重要的概念。它指的是模型學習到的資料的壓縮、抽象表示。原始資料通常存在於高維空間中,而潛在空間則是一個低維空間,模型將原始資料映射到這個空間,並在這個空間中捕捉資料的底層結構、關係和模式。潛在空間的維度通常遠小於原始資料的維度,因此可以有效地降低資料的複雜度。

白話說明

模型把圖片、文字或聲音壓縮之後,資料到底被放到哪裡去了?

你可以把它想成一個濃縮後的座標空間,重要特徵被保留下來,雜訊和重複資訊被壓縮掉。

潛在空間是機器學習模型學習到的高維資料的壓縮表示,它捕捉了資料的底層結構和關係,並將其映射到一個低維空間。

記住這句

壓縮後還能看出資料結構的地方,就是 latent space。

比喻:潛在空間就像一張藏寶圖 -- 原始的資料(例如一堆照片)是雜亂無章的寶藏堆,而潛在空間就是一張簡潔的地圖,它把所有寶藏的「本質」和「相對位置」都標示出來,讓你一眼就能看出它們之間的關係,找到你想要的寶藏。

容易混淆

Embedding

Embedding 是把資料轉成向量的結果,latent space 指的是這些向量所在的空間。

原始資料空間

原始空間保留所有細節,latent space 則保留更核心、可運算的表示。

實際案例

臉部生成

模型在 latent space 裡微調姿勢和表情,再還原成圖片,會比直接動像素更有效率。

異常偵測

正常資料在 latent space 會聚在一起,離群點就比較容易被看出來。

演算法與應用

latent space 的好壞,會影響生成、壓縮和插值效果。理想狀態下,空間中的距離有語意,移動一點點就代表可理解的變化,例如更亮一點、角度轉一點。

中英對照與常見說法

latent 這個字的原意是「潛在的、還沒顯現的」。取這個名字是因為這些維度不是人指定的,而是模型自己學出來的,每一維通常沒有明確的人類語意。

中文
潛在空間
英文
latent space
說明
模型內部用來表示資料的低維空間
中文
潛在向量
英文
latent vector / latent code
說明
資料在那個空間裡的座標
中文
嵌入空間
英文
embedding space
說明
幾乎同義,較常用在文字與檢索場景
中文
特徵空間
英文
feature space
說明
較廣的說法,不限於學出來的表示
中文
表示學習
英文
representation learning
說明
學出好的潛在空間這件事本身

潛在空間為什麼有用

它把高維資料壓成低維,而且保留了語意結構。 一張 512×512 的彩色圖片有將近 80 萬個數值,但它在潛在空間裡可能只需要幾百維就能表示。壓縮之後計算量大幅下降,這正是 Stable Diffusion 這類模型在潛在空間而不是像素空間做擴散的原因,也是它能在消費級顯卡上跑的關鍵。

距離變得有意義。 在原始像素空間裡,兩張同一隻貓但位移幾個像素的圖片,數值差距可能比一張貓和一張狗還大。在訓練得好的潛在空間裡,語意相近的東西會靠在一起。整個向量檢索與 RAG 的基礎就是這件事。

可以做向量運算。 經典的例子是詞向量的「國王 減 男人 加 女人 約等於 女王」。在影像模型的潛在空間裡,也能找到對應「戴眼鏡」「微笑」這類屬性的方向,沿著那個方向移動就能編輯生成結果。

要注意的地方:潛在空間的維度沒有人類可讀的意義。 第 37 維代表什麼,通常無法回答。想要每一維各自對應一個獨立概念,那是解耦表示(disentangled representation)在研究的問題,一般模型不保證這件事。

常見問題

範例考題

某設計公司導入生成式 AI(Generative AI)工具,用於自動產生產品概念圖與風格草圖。為了讓系統能依據既有圖像資料產生具有變化且風格一致的新圖像,模型必須具備學習資料特性並生成新樣本的能力。下列哪一種模型技術或方法最符合上述需求?

  1. A隱變量自編碼器(Variational Autoencoder, VAE)
  2. B隨機森林(Random Forest)
  3. CK-近鄰演算法(K-Nearest Neighbors, KNN)
  4. D貝氏網路(Bayesian Network)
到題目頁作答

出現在這些考古題

官方公告試題的逐題解析裡,這 3 題把潛在空間列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

參考來源:en.wikipedia.org

其他格式:Markdown 版本