Azure AI

Azure OpenAI Service 是什麼:企業要在雲上用 GPT 的正規入口

Azure OpenAI 是微軟在 Azure 雲端上提供 OpenAI 模型的服務:GPT 系列等模型由 Azure 代管與營運,從你的 Azure 訂閱計費,享有 Azure 的服務等級協議與微軟支援。對企業最關鍵的是資料承諾:你的提示與生成內容不會流向 OpenAI,也不會被拿去訓練模型。開發者在 Azure 建立資源、部署模型後,就能透過 API 呼叫。
Azure OpenAI Service 是什麼:企業要在雲上用 GPT 的正規入口:文章重點卡

Azure OpenAI Service 是什麼:企業要在雲上用 GPT 的正規入口

很多公司的 AI 專案都卡在同一個問題上:工程師說接 OpenAI 的 API 很簡單,資安部門卻問「我們客戶的資料會跑去哪裡」,然後專案就停住了。Azure OpenAI 這個服務,基本上就是微軟為了回答這個問題而存在的。

這篇把它講明白:它跟 ChatGPT、跟 OpenAI 自家的 API 是什麼關係,微軟白紙黑字承諾了哪些事,開發者實際上手的流程長怎樣。看完你就知道,該在會議上怎麼回資安部門那一題。

你將學到什麼

它是什麼

OpenAI 的模型,跑在 Azure 的地盤上。

差在哪

與直接接 OpenAI API 的關鍵差異。

資料承諾

提示與生成內容不外流、不拿去訓練。

怎麼開始

建資源、部署模型、呼叫 API 三步。

一句話定義:OpenAI 的模型,Azure 的地盤

Azure OpenAI 是微軟與 OpenAI 合作的成果:把 GPT 系列這些模型放進 Azure 雲端,由 Azure 代管、由 Azure 營運。你用的是 OpenAI 的模型能力,但整個服務跑在微軟的基礎設施上,從你的 Azure 訂閱計費,享有 Azure 的服務等級協議,出問題找微軟支援。

模型陣容以 OpenAI 為主力:GPT 系列的文字與推理模型、影像與影片生成模型、語音模型、嵌入模型,甚至還有開放權重的模型可選。在目前的模型目錄裡,OpenAI 之外也放了 Cohere、Meta、Mistral AI 等供應商的模型,同一套方式取用。

跟直接接 OpenAI API 差在哪

模型底子是同一批,差別在包裝與周邊。用一張表看最實際的幾項。

面向直接接 OpenAI API走 Azure OpenAI
合約與計費與 OpenAI 簽約、另立帳務沿用 Azure 訂閱與既有帳務
服務承諾OpenAI 的條款Azure 服務等級協議與微軟支援
資料處理位置由 OpenAI 決定標準部署可指定地理區
企業整合自行串接與 Azure 的權限、網路、監控體系整合

簡單說:如果你是個人開發者做 side project,直接接 OpenAI 最快。但如果公司已經在 Azure 上、有資安審查與法遵要求,Azure OpenAI 讓你不用重新回答一整套「資料去哪裡、誰負責」的問題。

資安部門最想聽的:微軟的資料承諾

微軟在官方文件裡把資料承諾寫得非常明確,值得逐條看。你的提示(輸入)、生成內容(輸出)、嵌入與訓練資料:

  • 不提供給其他客戶;
  • 不提供給 OpenAI 或其他模型供應商;
  • 不會被模型供應商拿去改進他們的模型或服務;
  • 未經你的同意或指示,不會用於訓練任何生成式 AI 基礎模型。

另外兩點也重要。第一,模型是無狀態的:提示與回應不會存進模型,也不拿去重新訓練基礎模型。第二,整個服務不與 OpenAI 營運的系統互通,你的流量不會流進 ChatGPT 或 OpenAI API 那一側。

防護面則有兩層機制。護欄(Guardrails)即時過濾有害內容,門檻可以設定;濫用監控偵測違反使用條款的模式,經核准的企業客戶還能申請調整監控方式。你微調出來的客製模型,也只有你自己能用。

開發者怎麼開始:資源、部署、呼叫

實際上手是三步。第一步,在 Azure 訂閱裡建立資源,這一步同時決定了資源所在的地理區。第二步,從模型目錄裡挑一個模型建立部署(deployment),部署有自己的名字,之後程式呼叫的就是這個名字。第三步,用 API 或 SDK 發出請求,跟一般呼叫聊天模型的寫法大同小異。

Azure 訂閱既有帳務與權限建立資源選定地理區部署模型從目錄挑選呼叫 API接進你的應用
從 Azure 訂閱出發的三個動作:建立資源、部署模型,然後讓你的應用程式呼叫 API。

部署時有一個對法遵很關鍵的選擇:部署類型。標準部署的處理留在你指定的地理區;全域(Global)部署換取更好的容量與彈性,處理位置可能在任何有該模型的地區;資料區(Data Zone)部署則折衷,把處理範圍限定在例如歐盟或美國這樣的資料區內。

順帶一提:名字正在變成 Microsoft Foundry

最後幫你打個預防針。微軟近年把 AI 開發平台整合成 Microsoft Foundry,Azure OpenAI 的模型如今歸在「由 Azure 銷售的 Foundry 模型」底下,文件與入口網站都陸續改用新名字。

查資料時看到 Azure OpenAI Service、Azure AI Foundry、Microsoft Foundry 這些名字混用,不用慌,講的是同一條服務脈絡。核心不變:OpenAI 等供應商的模型,由 Azure 代管營運,配上企業級的資料承諾。

給評估中團隊的建議先把資安與法遵的需求清單寫下來,再對照官方的資料隱私文件逐條打勾,這一步做完,多數導入阻力就消失了。技術驗證則從小場景開始:挑一個內部工具,用標準部署在自己指定的地理區跑通,再談要不要上全域部署換容量。
本文源起本文取材自 Microsoft Learn 的「Azure OpenAI in Microsoft Foundry」產品文件與資料隱私說明,由酒Ann 消化後以自己的視角重新編寫成中文。原版資源可在 Microsoft Learn 修習。

延伸學習

把這篇文章分享給需要的人FacebookLINEThreadsX

常見問答

Azure OpenAI 跟 ChatGPT 是同一個東西嗎?
不是。ChatGPT 是 OpenAI 營運的聊天產品,Azure OpenAI 是微軟在 Azure 上提供 OpenAI 模型的雲端服務,給企業與開發者接進自己的應用。微軟明確說明這個服務由 Azure 代管,不會與 OpenAI 營運的服務(例如 ChatGPT 或 OpenAI API)互通。
我送進去的資料,OpenAI 看得到嗎?
看不到。微軟的官方文件明列:你的提示、生成內容、嵌入與訓練資料不提供給其他客戶、不提供給 OpenAI,也不會在未經你同意的情況下拿去訓練基礎模型。模型本身是無狀態的,不會把你的提示存進模型裡。
Azure OpenAI 上有哪些模型?
以 OpenAI 的模型為主力,包含 GPT 系列的文字與推理模型、影像與影片生成、語音模型與嵌入模型。在現在的 Microsoft Foundry 模型目錄裡,旁邊還有 Cohere、Meta、Mistral AI 等其他供應商的模型可以選。
資料會不會離開我指定的地區?
看部署類型。標準部署的提示與回應會在客戶指定的地理區內處理;選擇全域(Global)或資料區(Data Zone)部署,處理位置的範圍會放寬,但靜態儲存的資料仍留在你指定的地理區。對資料落地有法遵要求的企業,要在部署時把這個選對。
費用怎麼算?
從你的 Azure 訂閱計費,跟其他 Azure 服務一起結算,用量以 token 計算,不同模型與部署類型價格不同。這對企業採購是實務上的優點:不用另外開供應商、簽新合約,沿用既有的 Azure 帳務與額度管理。