模型與訓練

Foundation Model 是什麼?一個底座長出所有應用

Foundation Model(基礎模型)是指在大規模、多樣的資料上預訓練出來的通用模型,本身不針對單一任務,卻能透過微調、提示或外接工具,適配到翻譯、摘要、問答、生圖等各種下游任務。它是整個生態的底座,上面才長出各家產品與應用。
Foundation Model 是什麼?一個底座長出所有應用:文章重點卡

Foundation Model 是什麼?一個底座長出所有應用

你聽到的各種 AI 產品,底下其實只有少數幾個底座模型。搞懂基礎模型這個層次,你會更清楚哪些能力是模型給的,哪些是產品加上去的。

你將學到什麼

定義

在大規模資料上預訓練、可適配到多種下游任務的通用模型。

白話比喻

像通識教育:先把底子打厚,之後轉哪一行都學得快。

跟誰容易搞混

基礎模型是底座這個層次,LLM 是其中處理語言的那一類。

定義

Foundation Model(基礎模型)是指在大規模、多樣的資料上預訓練出來的通用模型。它本身不針對單一任務設計,卻能被適配到大量不同的下游任務。

適配的方式有三種常見路徑:微調模型參數、用提示詞引導,或是外接工具與知識來源。

白話比喻

它像通識教育。你在大學前幾年學的不是某個職務的操作手冊,而是閱讀、寫作、邏輯與基本知識。

底子夠厚,之後不管進哪一行,短期訓練就能上手。基礎模型的價值也在這裡:不是為某件事而生,卻能被叫去做很多事。

跟相近名詞的差別

名詞它指的是什麼
Foundation Model 基礎模型可適配到多種任務的通用底座,涵蓋語言、影像、語音等模態
LLM 大型語言模型基礎模型中專門處理語言的那一類
Pre-training 預訓練把基礎模型練出來的那個階段
Fine-tuning 微調拿基礎模型再訓練,讓它專精某個領域或格式

實際用例

實務上你選的不是一個功能,而是一個底座。同一個底座,可以拿來做客服問答、內容生成、資料整理,也可以再接上知識庫變成專業助理。

這也解釋了一個常見現象:換底座往往比調提示詞更有感。當任務需要更強的推理或更長的脈絡,那是底座的能力上限,不是提示詞寫法能補的。

反過來說,如果問題出在它不知道你的專業內容,那不是底座的問題,補知識來源會比換模型有效得多。

常見誤解最常見的誤解是把基礎模型當成無所不知的資料庫。它的知識來自訓練資料,訓練完成之後就固定了,也不會自動更新。要它知道你的專業內容或最新資訊,得靠知識庫、搜尋錨定或微調,而不是期待底座自己會。
本文源起本文為酒Ann 的 AI 名詞彙編系列,用白話把常見名詞一次講清楚。歡迎追蹤 酒Ann 的 Facebook

延伸學習

把這篇文章分享給需要的人FacebookLINEThreadsX

常見問答

基礎模型跟大型語言模型是同一件事嗎?
不是。基礎模型是一個層次的概念,涵蓋語言、影像、語音等各種模態;大型語言模型是其中專門處理語言的那一類。
為什麼叫基礎?
因為它不是拿來直接解某一個特定任務的,而是當底座用。上面透過微調、提示或外接工具,才長出各式各樣的應用。
自己需要訓練基礎模型嗎?
絕大多數團隊不需要。預訓練的資料量與運算成本極高,多數情況下選一個現成的底座,再用微調或知識庫來補足專業內容就夠了。