AITerms 登入
機器學習深度學習自然語言處理

基礎模型(Foundation Model)是什麼?

基礎模型是使用大量未標記數據訓練的大型模型,可適應多種下游任務,展現出強大的泛化能力和遷移學習能力。

完整定義

基礎模型(Foundation Model)是指使用極大量的未標記數據進行預訓練的大型模型。這些模型通常具有數十億甚至數千億個參數,能夠學習到通用的數據表示,並可以通過微調或 Prompt 工程快速適應各種下游任務,例如圖像分類、自然語言處理和語音辨識。基礎模型的核心優勢在於其強大的泛化能力和遷移學習能力。

白話說明

你有沒有看過一個模型先在超大資料上學很多,再拿去做很多不同任務?

你可以把基礎模型想成打底很厚的通用模型,先學到廣泛能力,再依需求微調成不同用途。

它重要,是因為這種模型能把一次訓練的能力,快速延伸到很多下游工作,省掉很多重做成本。

記住這句

先學通用底子,再拿去改成不同用途,就是基礎模型。

比喻:基礎模型就像一位博學多聞的「通才」-- 他讀過海量的書,什麼都懂一點,雖然沒有專精某個領域,但只要稍加指點,就能快速學會解決各種新的專業問題。

容易混淆

基礎模型 vs 傳統AI模型

傳統模型常為單一任務設計。

基礎模型先學通用能力,再適配不同任務。

基礎模型 vs 大型語言模型

大型語言模型是基礎模型的常見例子。

但基礎模型不只限於文字,也可以涵蓋影像和多模態。

實際案例

客服和摘要共用底座

同一個大型基礎模型,先做摘要再做客服回覆,只要調整任務層就能延伸。

企業知識助理

先用通用模型打底,再針對公司文件微調,會比從零開始快很多。

演算法與應用

它通常靠大規模預訓練學到一般性的表示能力,再透過提示或微調進入特定任務。

在文字、影像和多模態領域,基礎模型都已經成為很常見的起點。

情境判斷

Q1:如果一個模型能做很多任務,通常可以說它很像基礎模型嗎?

可以,但前提是它真的有通用預訓練底座,不只是臨時拼出多功能。

Q2:只要模型很大,就一定是基礎模型嗎?

不一定,大小不是唯一標準,能不能當通用底座才是關鍵。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 1 題把基礎模型列為延伸術語。

相關術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本