AITerms 登入
深度學習神經網路自然語言處理

解碼器(Decoder)是什麼?

解碼器是神經網路的一部分,負責將編碼器產生的抽象向量表示,轉換成人類可理解的目標輸出,如文字、圖片或語音。

完整定義

解碼器是一種神經網路模型,通常作為編碼器-解碼器架構的一部分,其主要功能是將編碼器產生的壓縮、抽象的語義表示(通常是固定長度向量)轉換回原始領域的目標輸出。解碼器透過學習如何從這些高層次特徵中逐步重建詳細資訊,能夠生成文本(如機器翻譯、文本摘要)、圖像(如圖像生成、超解析度)或語音等。在序列到序列(Seq2Seq)模型中,解碼器會根據編碼器輸出的上下文向量和之前生成的輸出,逐步生成序列,直到達到結束標記或最大長度。注意力機制(Attention Mechanism)常被用於幫助解碼器聚焦於編碼器輸出中最相關的部分。

白話說明

你在翻譯或聊天機器人裡,會不會好奇答案怎麼一個字一個字冒出來?

你可以把 解碼器 想成一個會順著上下文逐步產生輸出的模組。

它其實就是先看前文,再決定下一個 token 要怎麼接下去。

解碼器是神經網路的一部分,負責將編碼器產生的抽象向量表示,轉換成人類可理解的目標輸出,如文字、圖片或語音。這種方式特別適合翻譯、摘要、對話生成,因為答案的順序和上下文都不能亂。

記住這句

先讀懂上下文,再逐步吐出答案

比喻:解碼器就像一位翻譯員 -- 它接收到編碼器傳來的「密碼」(隱藏向量),然後根據這些密碼,把它們翻譯成我們能看懂的文字、圖片或聲音。

容易混淆

vs 編碼器 (Encoder)

編碼器負責把原始輸入(如文字)壓縮成資訊豐富的「密碼」;解碼器則負責把這些「密碼」還原成目標輸出(如翻譯後的文字)。

實際案例

案例一:解碼器 在翻譯系統裡

你輸入一段英文,模型先抓住前文,再逐字生出中文,長句如果少了回看機制,後半段很容易走樣。

案例二:解碼器 在聊天回覆裡

使用者問到一半又補充條件,解碼器要把前面已經生成的內容也算進去,否則回覆會前後不一致。

深入了解

生成時通常會先讀入上下文,再用前面已輸出的內容決定下一個 token,這叫自回歸式生成

若有編碼器搭配,解碼器會在每一步回頭看輸入,讓長句或跨句關係更穩

真正的重點不是一次講完,而是把順序、語氣和上下文接好

情境判斷

Q1(直覺題): 你想把一段英文翻成中文,這時候需要的是只會看輸入的模型,還是會一邊看輸入、一邊逐字生成輸出的模型?

需要逐字生成輸出的模型,因為翻譯不是一次吐完,而是要照上下文一步步接出來。

Q2(判斷題): 如果你只用一個固定向量去代表整段長文章,長句翻譯後半段開始走樣,這時候問題通常出在哪裡?

多半是上下文壓縮得太狠,資訊被塞進單一表示後就不夠用了,這時候通常要加注意力機制或改用更適合的 encoder-decoder 架構。

常見問題

範例考題

在生成式 AI 文字生成模型設計中,Encoder-Decoder 與 Decoder-only 為常見架構。下列何者最能正確說明兩者在資訊處理與生成機制上的核心差異?

  1. AEncoder-Decoder 透過編碼與解碼階段處理序列,Decoder-only 則以單一模型完成處理
  2. BEncoder-Decoder 區分輸入理解與內容生成階段,Decoder-only 以單一模型同時處理上下文與生成
  3. CDecoder-only 架構主要依賴外部知識檢索,Encoder-Decoder 則不需要
  4. DEncoder-Decoder 架構僅適用於翻譯任務,Decoder-only 架構較適合對話任務
到題目頁作答

出現在這些考古題

官方公告試題的逐題解析裡,這 1 題把解碼器列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本