完整定義
微調(Fine-tuning)是一種廣泛應用於深度學習的遷移學習技術。其核心思想是,先使用一個大型數據集(通常是通用領域數據)訓練一個基礎模型(稱為預訓練模型),然後再使用少量特定任務或特定領域的數據,對這個預訓練模型的參數進行進一步的訓練調整。透過微調,模型能夠將從通用任務中學習到的豐富知識遷移到新的、相關但數據量較小的任務上,從而顯著提高模型在新任務上的性能,並減少從頭開始訓練所需的時間和計算資源。微調在自然語言處理(如 BERT、GPT 系列模型)和電腦視覺(如 ResNet、ViT)等領域取得了巨大成功。
白話說明
你有沒有一個已經很會做事的模型,只想把它教成更懂你的版本?
你可以把微調想成拿現成能力再訓練一小段,讓模型更適合某個特定任務或語境。
它重要,是因為從頭訓練很花時間和資料,微調通常能用更少成本把通用能力變成可用能力。
記住這句
不是重練一個新模型,而是把舊模型調得更合用。
比喻:微調就像請一位全科醫生去讀專科進修班 -- 不需要重讀醫學院(預訓練),只需要針對特定領域做額外訓練
容易混淆
微調 vs 從頭訓練
從頭訓練是重新學一整套能力。
微調是站在既有模型上,往目標任務再調整。
微調 vs 提示工程
提示工程是用文字引導模型。
微調是真的改模型參數,影響更深也更持久。
實際案例
客服機器人
先有一個通用語言模型,再用公司對話資料微調,回答就會更貼近品牌說法。
醫療文本分類
先用通用模型,再用醫療標註資料微調,專業名詞與分類邏輯通常會更準。
演算法與應用
微調會沿用預訓練模型的表示能力,再用較小資料集更新部分或全部權重。
在大型語言模型、影像模型和多模態模型裡,微調都是很常見的落地方法。
iPAS 考題
Q:微調的核心目的是什麼?
讓已經學過大規模資料的模型,適應新的任務或領域資料。
Q:微調和提示工程差在哪裡?
提示工程是改輸入說法,微調是改模型本身。
中英對照與常見說法
- 說法
- 微調
- 出現場合
- 台灣與中國大陸通用譯名
- 說法
- 微调
- 出現場合
- 簡體寫法
- 說法
- Fine-Tuning
- 出現場合
- 英文原名
- 說法
- 精調、細調
- 出現場合
- 少見變體
- 說法
- 指令微調(instruction tuning)、監督式微調(SFT)
- 出現場合
- 大型語言模型脈絡下的特定形式
跟預訓練的差別,這是最常考的一組
一句話的區別:預訓練學的是通識,微調學的是專業。
考題常見的問法是「先用大量通用資料訓練,再用少量特定資料調整」對應到哪個階段組合,答案就是預訓練加微調。
- 資料
- 預訓練(pre-training)
- 大量無標註的通用資料
- 微調(fine-tuning)
- 少量有標註的特定任務資料
- 目標
- 預訓練(pre-training)
- 學通用的語言或視覺表示
- 微調(fine-tuning)
- 讓模型適應特定任務或領域
- 成本
- 預訓練(pre-training)
- 極高,通常只有大型機構做得起
- 微調(fine-tuning)
- 相對低,單機或少量機器可行
- 誰做
- 預訓練(pre-training)
- 模型提供者
- 微調(fine-tuning)
- 使用者
- 順序
- 預訓練(pre-training)
- 先
- 微調(fine-tuning)
- 後
微調、提示工程、檢索增強,怎麼選
最常見的誤用是拿微調當作灌知識的手段。 要讓模型知道公司的產品規格,正確做法幾乎都是檢索增強而不是微調:資料一改就要重訓、模型可能記成模糊的印象、而且無法標出出處。
微調真正的強項是行為與格式:讓模型每次都輸出合乎規格的 JSON、讓它用特定的專業語氣、或把一段很長的系統提示壓縮進權重裡以節省每次呼叫的成本。
- 手段
- 提示工程
- 適合解決
- 調整輸出格式、語氣、簡單任務
- 不適合
- 教模型不知道的知識
- 手段
- 檢索增強(RAG)
- 適合解決
- 補充會變動的、大量的事實知識
- 不適合
- 改變模型的行為風格
- 手段
- 微調
- 適合解決
- 固定的輸出格式、特定領域語氣、壓縮提示長度
- 不適合
- 灌入大量新事實,容易記錯又難更新
參數高效微調
全參數微調要更新所有權重,記憶體需求大且每個任務都得存一份完整模型。LoRA 這類參數高效微調(PEFT)的做法是凍結原模型,只訓練少量額外的低秩矩陣,可訓練參數常常不到全部的百分之一,效果卻接近全參數微調,而且多個任務可以共用同一個底模只換掛載的小模組。
微調最常見的失敗是災難性遺忘:學會新任務卻把原本的通用能力弄壞了。對策是降低學習率、混入一部分通用資料、或改用參數高效微調把原權重凍住。
情境判斷
Q1:如果你已經有一個大模型,只差讓它更懂公司文件,微調適合嗎?
適合,因為你要的是領域適配,不是重做一個新模型。
Q2:如果資料量超少,微調一定比提示工程好嗎?
不一定,資料太少時,提示工程可能更快更省,是否微調要看情況。
常見問題
有可能,若資料太窄或訓練方式不當,模型可能偏掉。
不一定,實務上也常只更新部分層或參數高效率方法。
不只,影像、語音和推薦模型也常微調。
不是,但兩者常搭配使用,少樣本提供少量資料,微調負責把模型往目標拉。
主要目的是讓預訓練模型適應特定任務或領域,而不必從頭訓練。做法是用目標任務的資料,對已經學過大量通用資料的模型再訓練一段,調整它的參數。這樣通常只需要較少的資料與運算,就能得到可用的效果。
微調是遷移學習最常見的做法之一。遷移學習泛指把一個任務學到的知識用到另一個任務,微調則具體拿預訓練模型的權重當起點,用新任務資料繼續訓練全部或部分參數。另一種做法是凍結預訓練模型,只把它當特徵擷取器。
範例考題
某企業導入大型語言模型(LLM)進行客服自動化,並已透過 Fine-Tuning 學習企業標準問答範例,但在實務運作中仍出現回應策略未符合服務優先順序及語氣與品牌風格不一致的情況,因此技術團隊建議再導入 Reinforcement Fine-tuning(RFT)機制進行優化,其主要目的為何?
- A擴展模型的知識涵蓋範圍與資料記憶能力
- B透過 reward 訊號調整模型回應策略與行為偏好
- C提升模型推論速度與降低回應延遲
- D降低 prompt 設計複雜度並取代訓練流程
正解是 B:透過 reward 訊號調整模型回應策略與行為偏好
解析:Reinforcement Fine-tuning(RFT)的主要目的是透過 reward 訊號(獎勵信號)來調整模型的回應策略與行為偏好,使其更符合期望的服務優先順序與品牌風格。
在進行大型語言模型(LLM)企業專屬知識的 Fine-tuning 時,若內部 GPU 運算資源與記憶體嚴重受限,下列哪一種參數高效微調(PEFT, Parameter Efficient Fine-Tuning)技術最能在維持模型效能的前提下,顯著降低需更新的參數數量?
- A知識蒸餾(Knowledge Distillation)
- B提示詞工程(Prompt Engineering)
- C梯度凍結(Gradient Freezing)
- D低秩適配(Low-Rank Adaptation)
正解是 D:低秩適配(Low-Rank Adaptation)
解析:LoRA(Low-Rank Adaptation)是 PEFT 技術的代表,透過在原始權重旁插入低秩矩陣來微調,大幅減少需更新的參數量,同時維持模型效能,特別適合 GPU 資源受限的場景。
出現在這些考古題
官方公告試題的逐題解析裡,有 13 題把微調列為延伸術語,這裡列出 5 題。
立即測驗
想測試你對 微調 的掌握程度?用考古題作答
相關術語
- 少樣本學習Few-shot Learning常和微調一起出現,但重點不同。
- 大型語言模型Large Language Model很多微調都是在它上面做。
- 提示工程Prompt Engineering先看它,能幫你判斷何時不用微調。
- 深度學習Deep Learning微調本質上就是沿用深度模型再適配。
- 機器學習Machine Learning理解它,才能知道微調在整個流程裡的位置。
- 遷移學習Transfer Learning
- 超參數Hyperparameter
- 檢索增強生成Retrieval-Augmented Generation對照重點:知識更新方式不同
- 低秩適配LoRA
- 參數高效微調Parameter-Efficient Tuning
來源
參考來源:en.wikipedia.org
考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。
其他格式:Markdown 版本