Azure AI
Azure OpenAI Service 是什麼:企業要在雲上用 GPT 的正規入口
Azure OpenAI Service 是什麼:企業要在雲上用 GPT 的正規入口
很多公司的 AI 專案都卡在同一個問題上:工程師說接 OpenAI 的 API 很簡單,資安部門卻問「我們客戶的資料會跑去哪裡」,然後專案就停住了。Azure OpenAI 這個服務,基本上就是微軟為了回答這個問題而存在的。
這篇把它講明白:它跟 ChatGPT、跟 OpenAI 自家的 API 是什麼關係,微軟白紙黑字承諾了哪些事,開發者實際上手的流程長怎樣。看完你就知道,該在會議上怎麼回資安部門那一題。
你將學到什麼
它是什麼
OpenAI 的模型,跑在 Azure 的地盤上。
差在哪
與直接接 OpenAI API 的關鍵差異。
資料承諾
提示與生成內容不外流、不拿去訓練。
怎麼開始
建資源、部署模型、呼叫 API 三步。
一句話定義:OpenAI 的模型,Azure 的地盤
Azure OpenAI 是微軟與 OpenAI 合作的成果:把 GPT 系列這些模型放進 Azure 雲端,由 Azure 代管、由 Azure 營運。你用的是 OpenAI 的模型能力,但整個服務跑在微軟的基礎設施上,從你的 Azure 訂閱計費,享有 Azure 的服務等級協議,出問題找微軟支援。
模型陣容以 OpenAI 為主力:GPT 系列的文字與推理模型、影像與影片生成模型、語音模型、嵌入模型,甚至還有開放權重的模型可選。在目前的模型目錄裡,OpenAI 之外也放了 Cohere、Meta、Mistral AI 等供應商的模型,同一套方式取用。
跟直接接 OpenAI API 差在哪
模型底子是同一批,差別在包裝與周邊。用一張表看最實際的幾項。
| 面向 | 直接接 OpenAI API | 走 Azure OpenAI |
|---|---|---|
| 合約與計費 | 與 OpenAI 簽約、另立帳務 | 沿用 Azure 訂閱與既有帳務 |
| 服務承諾 | OpenAI 的條款 | Azure 服務等級協議與微軟支援 |
| 資料處理位置 | 由 OpenAI 決定 | 標準部署可指定地理區 |
| 企業整合 | 自行串接 | 與 Azure 的權限、網路、監控體系整合 |
簡單說:如果你是個人開發者做 side project,直接接 OpenAI 最快。但如果公司已經在 Azure 上、有資安審查與法遵要求,Azure OpenAI 讓你不用重新回答一整套「資料去哪裡、誰負責」的問題。
資安部門最想聽的:微軟的資料承諾
微軟在官方文件裡把資料承諾寫得非常明確,值得逐條看。你的提示(輸入)、生成內容(輸出)、嵌入與訓練資料:
- 不提供給其他客戶;
- 不提供給 OpenAI 或其他模型供應商;
- 不會被模型供應商拿去改進他們的模型或服務;
- 未經你的同意或指示,不會用於訓練任何生成式 AI 基礎模型。
另外兩點也重要。第一,模型是無狀態的:提示與回應不會存進模型,也不拿去重新訓練基礎模型。第二,整個服務不與 OpenAI 營運的系統互通,你的流量不會流進 ChatGPT 或 OpenAI API 那一側。
防護面則有兩層機制。護欄(Guardrails)即時過濾有害內容,門檻可以設定;濫用監控偵測違反使用條款的模式,經核准的企業客戶還能申請調整監控方式。你微調出來的客製模型,也只有你自己能用。
開發者怎麼開始:資源、部署、呼叫
實際上手是三步。第一步,在 Azure 訂閱裡建立資源,這一步同時決定了資源所在的地理區。第二步,從模型目錄裡挑一個模型建立部署(deployment),部署有自己的名字,之後程式呼叫的就是這個名字。第三步,用 API 或 SDK 發出請求,跟一般呼叫聊天模型的寫法大同小異。
部署時有一個對法遵很關鍵的選擇:部署類型。標準部署的處理留在你指定的地理區;全域(Global)部署換取更好的容量與彈性,處理位置可能在任何有該模型的地區;資料區(Data Zone)部署則折衷,把處理範圍限定在例如歐盟或美國這樣的資料區內。
順帶一提:名字正在變成 Microsoft Foundry
最後幫你打個預防針。微軟近年把 AI 開發平台整合成 Microsoft Foundry,Azure OpenAI 的模型如今歸在「由 Azure 銷售的 Foundry 模型」底下,文件與入口網站都陸續改用新名字。
查資料時看到 Azure OpenAI Service、Azure AI Foundry、Microsoft Foundry 這些名字混用,不用慌,講的是同一條服務脈絡。核心不變:OpenAI 等供應商的模型,由 Azure 代管營運,配上企業級的資料承諾。
延伸學習
知識變現切割地圖(高清版下載,不含講義)
《知識變現切割地圖》的高清完整版。一張圖把語氣、心理、內容、產品、再利用五層模組攤在同一個平面上,讓你回頭盤點已有內容、規劃新的轉化節奏。課程附上地圖本身的完整解說與應用指南,教你怎麼讀這張圖、從哪一層開始用。完整版 PDF 可下載,放大看細節不會糊。
NT$ 680
ChatGPT 很強,但真正讓你下班的是 Google
六小時完整實錄。從「AI 很厲害,為什麼你還是每天加班」這個問題出發,把 Google Workspace 當成真正的工作平台重新設計一次流程 ── Sheets 的資料結構、Drive 與 Docs 的文件流、Gmail 與 Calendar 的通知系統,再用 Apps Script 讓它自己跑起來,最後收斂成一張屬於你自己的 AI 工作能力地圖。
NT$ 4,599

