模型與訓練
Overfitting 過擬合是什麼?模型背了答案,卻沒學到規律
Overfitting 過擬合是什麼?模型背了答案,卻沒學到規律
有些學生考前一晚把考古題全背起來,模擬考滿分,正式考換題型就崩了。模型也會這樣,這個現象叫過擬合。
你不一定會親手訓練模型,但只要看得懂別人的評估數字,就能分辨「這個模型真的會」跟「這個模型只是背過」。
你將學到什麼
定義
模型把訓練資料的細節與雜訊也學了進去,訓練表現很好,新資料表現很差。
白話比喻
像只背考古題的學生。原題滿分,換個問法就答不出來。
跟誰容易搞混
跟欠擬合剛好相反。過擬合是模型太複雜,欠擬合是模型太簡單,兩邊都不好。
定義
Overfitting 過擬合,指 AI 模型在訓練資料上表現得很好,但在新的資料上表現得很差的現象。
原因是模型太複雜或訓練資料太少,於是它把訓練資料裡的雜訊也一起學進去了,記住的是細節而不是真正的規律,因此無法泛化到新資料。
四個常見成因:模型太複雜、訓練資料太少、特徵太多或含雜訊、正則化不足。
白話比喻
把三種狀況畫成曲線最清楚。過擬合的線緊貼每一個資料點,連雜訊都照描;剛剛好的線捕捉到主要趨勢;欠擬合的線太直,連趨勢都抓不到。
換成人話:過擬合是背答案的學生,欠擬合是根本沒讀書的學生,剛剛好才是真的把觀念學會的學生。
過擬合跟欠擬合差在哪?
| 表現指標 | 過擬合 | 剛剛好 | 欠擬合 |
|---|---|---|---|
| 模型複雜度 | 太複雜 | 適中 | 太簡單 |
| 訓練資料表現 | 非常好,誤差很低 | 好,誤差低 | 差,誤差高 |
| 新資料表現 | 差,誤差高 | 好,誤差低 | 差,誤差高 |
| 泛化能力 | 差 | 好 | 差 |
| 典型描述 | 記住了雜訊 | 學到了規律 | 沒學到模式 |
實際用例
訓練一個瑕疵檢測模型,樣本只有兩百張,而且都在同一條產線同一個燈光下拍的。模型很快就把準確率練到接近滿分,換到另一條產線卻整個失準,因為它學到的是那個燈光,不是瑕疵本身。
解法照著清單走:先補資料並增加多樣性,再簡化模型、移除不相關的特徵,加上正則化與 Dropout,最後用早停避免它繼續背下去。
沒有在訓練模型的人也用得到這個觀念。看到別人展示的驚人準確率,第一個要問的是「這是訓練資料還是沒看過的資料」,答案不同,意義天差地遠。
延伸學習
ChatGPT 很強,但真正讓你下班的是 Google
六小時完整實錄。從「AI 很厲害,為什麼你還是每天加班」這個問題出發,把 Google Workspace 當成真正的工作平台重新設計一次流程 ── Sheets 的資料結構、Drive 與 Docs 的文件流、Gmail 與 Calendar 的通知系統,再用 Apps Script 讓它自己跑起來,最後收斂成一張屬於你自己的 AI 工作能力地圖。
NT$ 4,599
寫給升國一的你的筆記術
寫給剛升上國中的你:筆記不是寫給老師看的,是寫給考前的自己看的。18 章 85 課圖文,從「為什麼要寫」講到七科各自怎麼記,附 78 份可以印出來寫的練習單,以及 80 課家長專區與 34 張三年筆記養成路徑圖。沒有閱讀期限,國一買、國三還在。
NT$ 3,599

