模型與訓練

Transfer Learning 遷移學習是什麼?把學會的能力搬到新任務上

Transfer Learning 遷移學習,是把一個已經訓練好的 AI 模型所學到的通用能力,應用到另一個相關任務上的技術。因為底層特徵可以重用,新任務只需要少量標註資料就能達到不錯的效果,大幅減少訓練時間與運算成本。
Transfer Learning 遷移學習是什麼?把學會的能力搬到新任務上:文章重點卡

Transfer Learning 遷移學習是什麼?把學會的能力搬到新任務上

幾乎所有你現在用得到的 AI 應用,底層都靠這個概念。沒有人真的從零訓練一個模型來做自己的分類任務。

懂了遷移學習,你才會明白為什麼「資料很少也能做出好模型」這句話是成立的。

你將學到什麼

定義

把已訓練模型學到的通用特徵,重用到另一個相關的新任務上,只需少量資料即可調整。

白話比喻

已經會開小客車的人去學開卡車,方向盤與交通規則都能直接用,不必從頭學起。

跟誰容易搞混

常跟 Fine-tuning 微調混用。微調是遷移學習的其中一種做法,不是同義詞。

定義

遷移學習是把在大型資料集上學到的通用特徵,搬到新任務上使用的技術。它能大幅減少新任務所需的資料量、訓練時間與計算資源,同時提升模型在新任務上的表現。

核心概念只有一句:保留模型的底層特徵提取能力,只針對新任務調整高層的決策能力。

白話比喻

你已經學會開小客車,控制方向盤、踩油門煞車、看懂路況這些能力都已經在身上。要學開卡車時,你只需要適應車體與視角,不必從認識方向盤開始。

AI 也一樣。一個在百萬張圖片上學過邊緣、紋理、形狀、顏色的模型,拿去判讀胸腔 X 光時,只需要幾百到幾千張標註資料就能上工。

跟相近名詞的差別

做法怎麼做適合情境
特徵提取(Feature Extraction)凍結預訓練模型參數,只在上面訓練一個新的分類器新任務資料非常少
微調(Fine-tuning)在新任務資料上繼續訓練整個或部分模型層有一定量的標註資料,追求更高準度
領域適應(Domain Adaptation)對齊來源與目標的資料分布,再遷移兩邊資料分布差異較大

簡單記法:遷移學習是「要不要重用」的概念,微調 是「怎麼重用」的其中一種答案。

實際用例

影像領域用 ImageNet 上的模型去做醫學影像分類;語言領域用大量文本訓練的模型去做法律、醫療、金融的特定領域問答;語音領域用大規模語音模型去辨識特定口音或方言。

共同點都是:來源任務資料多、目標任務資料少,靠重用把差距補起來。

常見誤解第一個誤解是以為遷移學習等於免費午餐,資料再少都行。實際上仍需要有代表性的標註資料。第二個是把它跟微調畫上等號,導致討論方案時雞同鴨講。
本文源起本文內容出自酒Ann 的「AI 實戰陪跑班」課程教材,由酒Ann 編寫成彙編條目。想系統性搞懂 AI 名詞,歡迎追蹤 酒Ann 的 Facebook

延伸學習

把這篇文章分享給需要的人FacebookLINEThreadsX

常見問答

遷移學習跟微調是同一件事嗎?
不是。遷移學習是概念,指知識重用;微調是實現這個概念的方法之一。另外兩種常見做法是特徵提取與領域適應。
什麼情況最適合用遷移學習?
資料難以取得或標註成本很高的領域,例如醫療影像、稀有事件偵測、特定口音的語音辨識。
任兩個任務都能遷移嗎?
不行。來源任務與目標任務要有相關性,底層特徵才有重用價值。差距太大時效果會很差,甚至不如重練。