完整定義
語言模型 (LM) 是一種機器學習模型,它學習預測給定文本序列中下一個詞彙或字符的概率分佈。它通過分析大量的文本數據來學習語言的統計規律,並利用這些規律來預測未來的文本。語言模型是自然語言處理 (NLP) 的基礎,廣泛應用於各種 NLP 任務。
白話說明
你每次打字時,手機為什麼常常能猜到下一個詞,這背後是什麼模型?
你可以把它想成一個專門猜下一個字或詞的語言機器,根據前文預測後面最可能出現什麼。
語言模型是一種機器學習模型,用於預測給定文本序列中下一個詞彙或字符的概率分佈,是自然語言處理的基礎。
記住這句
看前文,猜下一個。
比喻:語言模型就像一個超級會猜謎的說書人 -- 你給它一句話的開頭,它就能根據它「讀過」的億萬本書籍,猜出接下來最有可能出現的詞是什麼,然後繼續說下去,讓故事聽起來很自然。
容易混淆
大型語言模型
語言模型是總稱,大型語言模型是規模更大、通常建立在 Transformer 上的版本。
字典
字典只存定義,語言模型會學詞與詞怎麼接、在哪些語境出現。
實際案例
手機輸入法
打出「今天天氣很」時,系統會猜下一個常見詞,這就是語言模型在運作。
機器翻譯
模型要先理解前後語境,再決定下一個字該怎麼接,才能翻得順。
演算法與應用
傳統 n-gram 語言模型只看前幾個詞,神經網路語言模型和 Transformer 則能看更長上下文。評估時常看困惑度,越低代表越會猜。
常見問題
語言模型是總稱,大型語言模型是規模更大、通常建立在 Transformer 上的版本。
你可以把它想成一個專門猜下一個字或詞的語言機器,根據前文預測後面最可能出現什麼。
字典只存定義,語言模型會學詞與詞怎麼接、在哪些語境出現。
範例考題
某企業提供大型語言模型(LLM)API 服務,需支援高併發請求與流量波動,同時要求服務不中斷並具備故障容忍能力。若以高可用性與可擴展性為主要設計原則,下列哪一種部署方式較為適當?
- A採用單一高效能虛擬機(VM)集中部署,以提升資源使用效率
- B建立多個模型服務實例並透過負載分散機制提供服務
- C將推論任務改由用戶端設備分擔,以降低伺服器負載壓力
- D使用 FTP 協議傳輸請求與回應,以減少服務通訊負擔
正解是 B:建立多個模型服務實例並透過負載分散機制提供服務
解析:高可用性與可擴展性的核心是建立多個服務實例並透過負載均衡分散流量,確保單一實例故障時服務不中斷,同時能動態擴展應對流量波動。
某企業導入大型語言模型(LLM)進行客服自動化,並已透過 Fine-Tuning 學習企業標準問答範例,但在實務運作中仍出現回應策略未符合服務優先順序及語氣與品牌風格不一致的情況,因此技術團隊建議再導入 Reinforcement Fine-tuning(RFT)機制進行優化,其主要目的為何?
- A擴展模型的知識涵蓋範圍與資料記憶能力
- B透過 reward 訊號調整模型回應策略與行為偏好
- C提升模型推論速度與降低回應延遲
- D降低 prompt 設計複雜度並取代訓練流程
正解是 B:透過 reward 訊號調整模型回應策略與行為偏好
解析:Reinforcement Fine-tuning(RFT)的主要目的是透過 reward 訊號(獎勵信號)來調整模型的回應策略與行為偏好,使其更符合期望的服務優先順序與品牌風格。
出現在這些考古題
官方公告試題的逐題解析裡,這 1 題把語言模型列為延伸術語。
相關術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本