AITerms 登入
深度學習資料處理特徵工程

自編碼器(Autoencoder)是什麼?

自編碼器是一種神經網路,旨在學習輸入數據的壓縮表示(編碼),然後從該壓縮表示重建原始數據(解碼)。

完整定義

自編碼器是一種無監督學習的神經網路,其目標是學習輸入數據的壓縮表示(編碼),然後從該壓縮表示重建原始數據(解碼)。自編碼器由編碼器和解碼器兩部分組成,編碼器將輸入數據轉換為低維的編碼,解碼器則將編碼轉換回原始數據的近似值。

白話說明

你想把一張圖片壓縮後再還原,模型能不能自己學怎麼壓?

你可以把自編碼器想成先壓縮、再重建的神經網路,它學的是資料的濃縮表示。

它常用來做降維、異常偵測與特徵學習。

記住這句

先壓縮再還原,逼模型學資料的重點

比喻:自編碼器就像一位專門做筆記的學生 -- 它會把一整本書的內容濃縮成一份精簡的重點摘要(編碼),然後再嘗試用這份摘要把整本書的內容「還原」出來(解碼),目標是讓還原後的內容盡量跟原版一樣。

容易混淆

自編碼器 vs 分類模型?

自編碼器:輸入什麼就盡量重建什麼

分類模型:輸入後輸出類別標籤

最關鍵的區別:前者學重建,後者學分類

自編碼器 vs PCA?

自編碼器:神經網路版壓縮器

PCA:線性降維方法

最關鍵的區別:PCA 是線性、自編碼器可以學非線性表示

自編碼器 vs 變分自編碼器?

自編碼器:只靠重建誤差學表徵

變分自編碼器:把潛在空間變成機率式生成模型

最關鍵的區別:VAE 不只重建,還強調可生成性

實際案例

異常偵測

模型只學正常交易的重建方式,當奇怪資料進來時重建誤差變大,就能抓出異常

去雜訊圖片

帶雜訊的照片進去後,模型學會還原乾淨版本,適合影像前處理

演算法與應用

重點
編碼器
你要看什麼
把輸入壓成低維表示
為什麼重要
保留關鍵資訊
重點
瓶頸層
你要看什麼
最小表示空間
為什麼重要
逼模型不能死背
重點
解碼器
你要看什麼
把表示重建回輸入
為什麼重要
檢查學到的表示是否有用

中英對照與常見說法

說法
自編碼器
出現場合
台灣正式用語
說法
自编码器、自动编码器
出現場合
簡體寫法,兩種都常見
說法
Autoencoder
出現場合
英文原名
說法
AE
出現場合
縮寫
說法
自動編碼器
出現場合
常見變體

三個組成與一個關鍵限制

編碼器(encoder) 把輸入壓縮成一個低維的表示,瓶頸層(bottleneck) 就是那個低維表示本身,解碼器(decoder) 從它還原回原本的輸入。訓練目標只有一個:還原得越像越好。

關鍵在瓶頸層一定要比輸入小。 如果中間層跟輸入一樣寬甚至更寬,模型可以直接學會把輸入原樣複製過去,什麼都沒學到。壓縮這個限制才是逼它去找資料結構的原因。

這也說明了自編碼器的本質:它是非線性的降維方法。如果把啟動函數全部拿掉只留線性層,它學到的東西會跟主成分分析(PCA)張成同一個子空間。多層加上非線性,才能抓到 PCA 抓不到的彎曲結構。

常見變體

一般自編碼器不能拿來生成。它的潛空間沒有被約束,會有一塊一塊沒被使用的區域,在那裡隨機取一點解碼出來只會是雜訊。要生成必須用 VAE 或其他有約束潛空間的方法。

變體
去噪自編碼器(DAE)
改了什麼
輸入先加雜訊,要求還原乾淨版本
用途
去噪、學更穩健的表示
變體
稀疏自編碼器
改了什麼
對隱藏層加稀疏懲罰
用途
學到更有辨識度的特徵
變體
變分自編碼器(VAE)
改了什麼
編碼成機率分布並加 KL 約束
用途
能生成新樣本
變體
遮蔽自編碼器(MAE)
改了什麼
遮住大部分輸入要求還原
用途
影像自監督預訓練

實務上主要用在哪

異常偵測是它最實用的場景。只拿正常資料訓練,模型學會把正常樣本還原得很好。上線後遇到異常樣本,重建誤差會明顯偏高,用這個誤差當分數就是一個不需要異常標註的偵測器。工業檢測、設備監控、詐欺偵測都在用。

降維與特徵萃取:把高維資料壓成幾十維再餵給下游模型。

去噪:影像、音訊、感測器訊號的雜訊移除。

注意重建誤差不等於異常程度。 模型對訓練資料裡罕見但正常的樣本也會重建得差,這是誤報的主要來源。門檻要用驗證資料調,不要憑感覺設。

情境判斷

Q1:如果自編碼器對正常資料重建很好,對異常資料重建很差,這代表什麼?

代表它學到了正常模式,異常樣本因為不符合規律而難以重建

Q2:如果模型只學會把輸入原封不動複製出來,這還有學到有用表示嗎?

通常沒有,因為它可能只是記住輸入,沒有真正壓縮與抽象化

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 1 題把自編碼器列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本