模型與訓練
GPU 圖形處理器是什麼?為什麼全世界都在搶它
GPU 圖形處理器是什麼?為什麼全世界都在搶它
新聞常說某公司又買了幾萬張 GPU,或某國家管制 GPU 出口。一張顯示卡為什麼會變成國家戰略物資?
答案在它的結構:GPU 天生適合並行計算,而 AI 訓練剛好就是海量的並行計算。
你將學到什麼
定義
GPU 是圖形處理器,原本用來渲染畫面,因為擁有數千個小核心,非常適合 AI 的矩陣運算與並行計算。
白話比喻
CPU 像十個博士,擅長複雜的邏輯難題。GPU 像數千個小學生,一起算簡單的加減乘除,速度驚人。
跟誰容易搞混
GPU 是算力本體,顯存是它身上的記憶體容量,決定你放不放得下一個模型。
定義
GPU(Graphics Processing Unit,圖形處理器)原本用來渲染遊戲畫面,但它擁有數千個小核心,能同時處理大量簡單的計算任務。
這個結構非常適合 AI 訓練中的矩陣運算與並行計算。所以雖然它叫顯示卡,現在全地球卻都在搶它來訓練 AI。
白話比喻
CPU 核心少,大約十個,但每一個都很強,擅長複雜的邏輯運算與串列任務。它像一組博士,適合解難題。
GPU 核心多,數千個,每一個都不算聰明,但可以同時開工。它像一整間學校的學生一起算加減乘除,適合 AI 訓練與推論。
GPU 跟 CPU 差在哪
| 比較項目 | CPU 中央處理器 | GPU 圖形處理器 |
|---|---|---|
| 核心數量 | 少,約十個等級 | 多,數千個等級 |
| 單核能力 | 強,擅長複雜邏輯 | 相對簡單,勝在數量 |
| 適合任務 | 串列任務、通用運算 | 大量並行運算 |
| 在 AI 的角色 | 調度與前後處理 | 模型訓練與推論的主力 |
為什麼全世界都在搶 GPU
- 大模型爆發,參數越大,需要的 GPU 越多。
- 供應稀缺,先進製程加上高頻寬記憶體,產能有限而需求暴增。
- 國家戰略物資,算力被視為國力競爭力,各國搶進,出口管制升級。
- 價格飆漲,高階 GPU 價格翻倍,一張難求。
所以才有那句總結:算力即權力。它現在的角色,比較像 AI 時代的石油。
實際用例
AI 訓練中的矩陣乘法、深度學習模型訓練、大量數據併行處理、向量運算、卷積運算,這幾類 GPU 都完美勝任。
除了訓練,線上服務的即時推論同樣吃 GPU。你在對話框看到字一個一個吐出來,背後就是 GPU 在算。科學研究、自動駕駛、3D 渲染與影像剪輯也都靠它加速。
規格上最常被提到的是顯存容量與記憶體頻寬。以 NVIDIA 的資料中心產品為例,H100 屬於 Hopper 架構,B200 屬於下一代的 Blackwell 架構,記憶體容量與頻寬都明顯提升。
延伸學習
ChatGPT 很強,但真正讓你下班的是 Google
六小時完整實錄。從「AI 很厲害,為什麼你還是每天加班」這個問題出發,把 Google Workspace 當成真正的工作平台重新設計一次流程 ── Sheets 的資料結構、Drive 與 Docs 的文件流、Gmail 與 Calendar 的通知系統,再用 Apps Script 讓它自己跑起來,最後收斂成一張屬於你自己的 AI 工作能力地圖。
NT$ 4,599
寫給升國一的你的筆記術
寫給剛升上國中的你:筆記不是寫給老師看的,是寫給考前的自己看的。18 章 85 課圖文,從「為什麼要寫」講到七科各自怎麼記,附 78 份可以印出來寫的練習單,以及 80 課家長專區與 34 張三年筆記養成路徑圖。沒有閱讀期限,國一買、國三還在。
NT$ 3,599

