完整定義
模型即服務(MaaS)是一種雲端運算服務模式,它允許使用者透過網路存取和使用預先訓練好的機器學習模型。這些模型通常由第三方供應商託管,使用者可以透過API呼叫來利用這些模型的功能,而無需自行開發、訓練或部署模型。MaaS降低了使用AI的門檻,讓更多企業和開發者能夠輕鬆地將AI整合到他們的應用程式和服務中。
白話說明
你有沒有想過,模型不是只能放在研究筆電裡,而是可以像服務一樣被別人呼叫?
你可以把模型即服務想成,把訓練好的模型包成可存取的服務介面,讓別的系統直接送請求過來。
它重要在於,模型變成可共享、可擴充、可治理的產品,而不只是檔案。
記住這句
把模型當 API 提供給別人用。
比喻:模型即服務就像去餐廳點現成的菜 -- 你不需要自己買菜、洗菜、煮菜,只要告訴餐廳你要吃什麼,他們就把做好的餐點送到你面前,省下很多功夫。
容易混淆
模型即服務 vs 模型服務化
模型即服務:強調把模型包成服務的產品形態。
模型服務化:強調把模型部署並提供推論能力的過程。
最關鍵的區別:前者偏商業 / 架構形態,後者偏實作流程。
模型即服務 vs 模型部署
模型即服務:關心對外怎麼被呼叫。
模型部署:關心模型怎麼上到環境裡。
最關鍵的區別:前者看服務入口,後者看上線動作。
實際案例
內部預測 API
公司把需求預測模型包成 HTTP API,銷售系統和排程系統都可以直接呼叫。
多團隊共享模型
同一個風險評分模型由不同產品線共用,不必每個團隊自己重訓一套。
演算法與應用
它通常會搭配權限控管、版本管理、監控和配額。
好的服務介面會把延遲、可用性和擴展性一起考慮。
模型即服務讓模型可以像一般後端服務一樣被整合進系統。
情境判斷
Q1(情境題): 如果模型只有在研究人員電腦上跑,這算模型即服務嗎?
不算。它還沒對外提供穩定介面,也還沒成為可共享的服務。
Q2(情境題): 如果同一個模型被十個系統呼叫,模型即服務就夠了嗎?
還不夠。你還要考慮認證、監控、擴充和故障處理。
常見問題
不一樣。SaaS 是整體應用服務,模型即服務是把模型能力做成可用的服務。
不一定,也可以是 gRPC、訊息佇列或其他介面。
模型服務化偏過程,模型即服務偏結果形態。兩者很近,但角度不同。
相關術語
- 模型服務化Model Serving理解它的上線過程最直接。
- API閘道API Gateway服務對外時經常需要。
- 模型部署Model Deployment服務背後一定會經過部署。
- 推論Inference服務的核心工作就是推論。
- 自動擴展Auto Scaling流量變動時很常用。
- 機器學習Machine Learning
本頁內容有提到,或屬於同一組主題的術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本