原文標題:Akamai Launches AI Inference Service and Agent Execution Environment
Akamai 10 月 27 日宣布推出 Akamai Inference 與 Akamai Agent Sandbox,將託管模型推論與代理程式執行隔離加入 Akamai Cloud。公司希望讓企業在同一雲端環境中處理模型部署、資料連接、代理工具執行與安全治理,而不必自行拼接多家供應商的服務。
Akamai Inference 透過 OpenAI 相容 API 提供開放權重及自訂模型存取,使用者可選按量付費的無伺服器推論或專用部署。初期模型目錄包含 12 款、規模從 80 億至 2.8 兆參數,例子包括 NVIDIA Nemotron 3 Ultra、OpenAI gpt-oss-120b、Google Gemma 4 與檢索增強生成所需的 embedding 模型。服務負責模型執行、協調及驗證,並可連接 Akamai 的資料庫、物件儲存與其他雲端。
Agent Sandbox 則讓代理在 Akamai Functions 上執行,並將代理自行產生或呼叫的程式碼放入獨立隔離環境。官方表示此元件以開源 Spin 框架提供,採 WebAssembly 隔離來限制運算、記憶體、對外連線與系統能力,避免代理程式碼取得超出預期的執行權限。
硬體方面,Akamai 擴大 NVIDIA Blackwell Ultra GPU 叢集,並規劃 2027 年支援 Vera Rubin。每個八 GPU Blackwell Ultra 節點,官方標示每張 GPU 配備 288GB HBM3e、總計約 2.3TB。平台延伸至超過 4,350 個邊緣據點,但不代表每個據點都配有相同 GPU。Inference 與 Agent Sandbox 目前均為 beta,Inference 測試版含無伺服器選項;B300 叢集供應需洽業務。
發生了什麼事
Akamai 新增模型託管推論與 WebAssembly 隔離代理沙箱,並擴大 Blackwell Ultra GPU 基礎設施。
為什麼重要
企業代理需要安全執行生成程式碼及跨工具存取;隔離機制與可選的託管推論有助於降低整合複雜度。
影響哪些人
受影響者包括 AI 應用開發者、平台工程師、資安團隊,以及評估邊緣推論與專用 GPU 的企業。
已確認與未確認
兩項服務目前為 beta;模型目錄與硬體規格已公告,價格、各區供應及 2027 年硬體計畫仍需後續確認。