阿里 AI

阿里雲的 AI 服務地圖,從模型 API 到部署

阿里雲的 AI 服務大致分三層。最上面是模型呼叫,官方稱為 Model Studio 的一站式模型服務平台,提供 Qwen 與第三方模型的 API,並支援與 OpenAI 相容的呼叫方式。中間是自己動手的機器學習平台 PAI,涵蓋從資料準備、訓練到上線推論的完整流程。下面是支撐檢索與資料的服務,例如知識庫與各種向量檢索方案。你要做的事決定你該從哪一層進去。
阿里雲的 AI 服務地圖,從模型 API 到部署:文章重點卡

阿里雲的 AI 服務地圖,從模型 API 到部署

第一次打開阿里雲的產品清單,很容易被數量嚇到。名字都很像,看起來每個都跟 AI 有關。

其實它有清楚的分層邏輯。這篇不是產品目錄,是一張地圖:告訴你三層各自負責什麼,以及你手上的需求該走哪一條路。

你將學到什麼

三層結構

呼叫模型、自己訓練與部署、檢索與資料。絕大多數需求都落在其中一層。

呼叫層

Model Studio 是一站式模型服務平台,提供 Qwen 與第三方模型的 API,用量計費。

打造層

PAI 涵蓋開發環境、分散式訓練、視覺化建模與線上推論服務。

怎麼選

先問你要不要碰模型本身。不用碰就停在呼叫層,要微調或要自架才往下走。

先把地圖畫出來

阿里雲跟 AI 有關的服務,可以照「你要不要碰模型本身」分成三層。這個分法比照產品名稱背誦有用得多。

  1. 呼叫層:模型已經幫你準備好,你只負責發請求、收結果。
  2. 打造層:你要自己準備資料、訓練或微調,並把成果部署成服務。
  3. 資料與檢索層:讓模型看得到你自己的知識,也就是 RAG 那一塊。

呼叫層,Model Studio

官方把 Model Studio 描述為一站式模型服務平台,提供 Qwen 系列與第三方大型語言模型的存取,並且是依用量計費,官方文件寫明只有在你呼叫模型的時候才產生費用。

涵蓋的能力不只文字。官方列出的範圍包含文字生成、視覺理解、圖片生成、影片生成、語音辨識與合成,以及向量嵌入。

對開發者最有感的一點是它支援與 OpenAI 相容的 API。官方的說法是更新 API 金鑰、base URL 與模型名稱,就能把既有的 OpenAI 程式移轉過來。這代表你不必為了試一個新模型重寫整個資料層。

平台端也有監控,官方提到可以追蹤呼叫次數、token 消耗量與成功率等統計。這在你要抓成本與抓失敗率的時候很重要。

打造層,PAI

PAI 是阿里雲的機器學習平台,官方定位是涵蓋端到端的 AI 開發生命週期,從資料準備、模型訓練到模型部署。它底下分成幾個模組,各自負責流程的一段。

模組官方描述的職責你會在什麼時候用到
DSW提供雲端的 AI 開發整合環境要寫程式做實驗、跑 notebook 的階段
DLC快速建立分散式或單機的訓練任務資料量大到單機跑不完,要開多機訓練
EAS把訓練好的模型部署成線上推論服務模型要上線,需要一個穩定的推論端點
Designer以低程式碼拖拉方式視覺化建模團隊裡不是每個人都寫程式,要協作建流程
Model Gallery整合 DLC 與 EAS,無需寫程式即可訓練與部署開源大模型想快速把一個開源模型調起來並上線

這一層的重點是你開始擁有模型與環境,同時也開始要為機器成本、版本管理與監控負責。不要在還沒驗證需求的時候就跳進來。

資料與檢索層

光有模型不夠,模型要看得到你自己的資料才有用。阿里雲在這一塊有兩種取徑。

第一種是直接用 Model Studio 內建的知識庫功能,官方把它描述為一個獨立的檢索增強生成功能,計費依規格時長與模型呼叫計算。門檻低,適合先把流程跑通。

第二種是走專門的檢索服務,官方文件裡出現過的方案包含 OpenSearch 的向量與對話式搜尋版本、AnalyticDB for PostgreSQL 的 RAG 服務,以及基於 Milvus 的向量檢索服務。資料規模大、檢索策略複雜的時候才需要走這條路。

選型的判斷句問自己一句話就好:我需要改變模型本身嗎?答案是否,就停在呼叫層加知識庫,這能解掉多數應用型需求。答案是是,才進 PAI。這句話比任何比較表都好用。

一條務實的推進路線

先在呼叫層用 API 把功能做出來,確認題目有解、輸出品質夠用。這個階段你要驗的是需求,不是基礎設施。

接著把自己的資料接進來,用知識庫或檢索服務讓回答貼近你的實際情境。多數品質問題出在這一步,不是出在模型不夠大。

最後才評估要不要進 PAI 做微調或自架部署。觸發條件通常是三個:資料不能外流、用量大到成本結構要重算、或是通用模型在你的專業領域怎麼調提示詞都不夠準。

常見誤解最常見的誤解是「上雲就等於要用最完整的那一套」。實際上大多數團隊一輩子只會用到呼叫層加知識庫,而那已經足以做出真正在跑的產品。想知道你會呼叫到哪些模型,可以讀 通義千問 Qwen 是什麼;想知道自架那條路長什麼樣,可以讀 開源權重模型怎麼用
本文源起本文依阿里雲官方公開資料整理,由酒Ann 以自己的視角編寫成中文導覽。實際功能與授權條款以 阿里雲官網 為準。

延伸學習

把這篇文章分享給需要的人FacebookLINEThreadsX

常見問答

Model Studio 跟 PAI 差在哪?
分工不同。Model Studio 是拿現成模型來用,你透過 API 呼叫,不需要管機器與環境。PAI 是機器學習平台,官方描述它涵蓋從資料準備、模型訓練到模型部署的完整開發生命週期,適合你要自己訓練、微調或把模型部署成自己的推論服務的時候。
我已經寫過 OpenAI 的程式,要整個重寫嗎?
不一定。官方文件說 Model Studio 支援與 OpenAI 相容的 API,你更換 API 金鑰、base URL 與模型名稱就能把既有的 OpenAI 程式移轉過來。實務上仍要重新測試,因為不同模型的輸出風格與參數行為會有差異,但架構層面通常不用重寫。
做 RAG 一定要另外買向量資料庫嗎?
不一定。阿里雲的模型服務平台本身就有知識庫功能,官方把它描述為一個獨立的檢索增強生成功能。如果你的資料量與查詢型態比較單純,先用內建的就好;等到你需要更複雜的檢索策略或更大的資料規模,再評估專門的向量檢索服務。