AMD 在 AI 的布局：Instinct、ROCm 與 AI PC 一次看懂

講到 AI 算力，多數人第一個想到的是 NVIDIA，好像整個生態只有一家公司。但實際上資料中心的採購清單、超級電腦的規格表、甚至新款筆電的貼紙上，AMD 的名字出現得越來越頻繁。

我整理 AMD 官方文件時發現，它的 AI 布局其實是一張很清楚的三層地圖：資料中心的 Instinct 加速器、中間的 ROCm 軟體堆疊、終端的 Ryzen AI 處理器。這一篇就把這三層各自是什麼、彼此怎麼接起來，一次講清楚。

為什麼值得認識 AMD：AI 算力的第二個選項

AI 這幾年的瓶頸從來不是點子，而是算力：買不到卡、租不起雲、排不到位。當市場高度依賴單一供應商，價格與供貨就成了每個團隊的風險。這正是 AMD 被越來越多人認真研究的原因。

AMD 的策略也不難讀：硬體上用 Instinct 打資料中心、用 Ryzen AI 打終端裝置，軟體上用開放原始碼的 ROCm 降低轉換門檻。理解這三塊，就等於理解了 AI 硬體市場「第二勢力」的全貌。

資料中心這一層：Instinct 加速器

Instinct 是 AMD 的資料中心 GPU 加速器產品線，近年的主力是 MI300 這一代與後續系列。它採用的 CDNA 架構是專為運算設計的，與遊戲顯示卡的繪圖架構分家，整張卡的目標只有一個：把矩陣運算做到又快又省。

訓練與推論大型模型時，最常見的瓶頸其實是記憶體：模型放不進去，再快的運算單元也只能等資料。所以 Instinct 系列把高頻寬記憶體（HBM）當成主要賣點之一，讓更大的模型可以塞進單一加速器，減少切割模型的工程負擔。

這條產品線不是紙上談兵。美國能源部的 Frontier 與 El Capitan 這兩部登上超級電腦排行榜頂端的機器，用的都是 AMD 的 CPU 加上 Instinct 加速器，等於在最嚴苛的場景先驗證過一輪。

軟體這一層：ROCm，AMD 版的 CUDA 角色

硬體再強，沒有軟體接得上就沒人用得動，這是 GPU 市場最殘酷的一課。AMD 的答案是 ROCm：一套開放原始碼的 GPU 運算軟體堆疊，包含執行環境、編譯器、數學與通訊函式庫，以及效能分析工具。

對開發者來說，ROCm 扮演的就是 CUDA 在 NVIDIA 生態裡的角色。核心的程式介面叫 HIP，寫法與 CUDA 高度相似，官方還提供 HIPIFY 工具協助把既有的 CUDA 程式碼轉換過來，降低搬家成本。

更關鍵的是框架支援：ROCm 官方支援 PyTorch 與 JAX，推論端支援 vLLM 與 SGLang。也就是說，多數做應用的人根本不會碰到 HIP，裝好對應版本的框架，程式照跑。ROCm 的細節值得單獨一篇，我另外寫了一篇入門專文。

終端這一層：Ryzen AI 與 AI PC

第三層走進你的背包。Ryzen AI 是 AMD 內建 NPU（神經處理單元）的處理器系列，NPU 採用 XDNA 架構，專門用低功耗執行 AI 推論。CPU 顧通用運算、GPU 顧繪圖、NPU 顧 AI，三顆引擎各司其職。

為什麼要在本機跑 AI？三個理由：不必連網所以隱私留在裝置上、沒有來回雲端的延遲、長時間開著也省電。視訊會議的背景處理、即時字幕、本機執行的小型語言模型，都是 NPU 的主場。

開發端的入口是 Ryzen AI Software：以 ONNX Runtime 為基礎，PyTorch 或 TensorFlow 訓練好的模型經過量化後部署到 NPU 上，並由執行環境自動分配哪些部分跑 NPU、哪些交給其他硬體。這就是「AI PC」這個詞背後真正的技術內容。

三層合起來看：開放生態是共同的賭注

把三層擺在一起，會看到一個共同的主軸：開放。ROCm 開放原始碼、Ryzen AI 押注在開放的 ONNX 標準上、框架支援走主流開源社群。AMD 賭的是：當算力供給緊張，一個不被單一廠商鎖死的生態，本身就是賣點。

• 經營者與採購者：AMD 是議價與供貨風險的分散選項，評估時重點看你要跑的軟體是否在 ROCm 支援清單上。
• 開發者：從 ROCm 版 PyTorch 入手成本最低，底層優化再考慮 HIP。
• 一般使用者：買筆電時看到 Ryzen AI，代表機器裡有一顆專跑 AI 的 NPU，實際價值取決於你用的軟體有沒有接上它。