原文標題:Scaling Sandboxed Agentic AI on Xeon CPUs

Intel 在官方技術文章說明,具備執行程式碼、存取檔案及呼叫工具能力的 AI 代理程式,必須重視隔離執行環境。代理程式若直接在主機上執行產生的程式碼,可能面臨軟體錯誤、提示注入、資料外洩與權限提升等風險,因此沙箱的建立速度也成為基礎設施的效能議題。

此次測試採用 Tencent Cloud Cube Sandbox 的 cube-bench 建立與刪除工作負載,並以平均建立延遲不超過 200 毫秒作為服務水準目標。測試逐步提高同時建立沙箱的請求量,觀察平台能在何種並行程度下維持目標反應時間,而不是單純測量處理器的傳統運算分數。

Intel 公布的數據顯示,Xeon 6990E+ 約可維持到 313 個並行請求,Xeon 6980P 約為 277 個,AMD EPYC 9965 則約為 246 個。依 Intel 的計算,在這套測試與設定下,前兩者相對 EPYC 9965 分別高出約 27% 與 12% 的合格並行量。

官方亦列出處理器核心數、記憶體、作業系統、BIOS 與儲存裝置等配置。由於三個平台的硬體條件並非完全相同,這份結果應理解為 Intel 所公開的特定沙箱負載測試,而不是對所有 AI 工作流程、雲端服務或處理器整體效能的通用排名。

發生了什麼事

Intel 發表 Xeon 6 與 Xeon 6+ 執行 AI 代理程式沙箱建立負載的比較資料,重點是建立延遲與同時處理請求的能力。

為什麼重要

AI 代理程式若需要反覆建立隔離環境,沙箱初始化時間會直接影響任務回應速度;測試讓基礎設施團隊有可參考的指標。

影響哪些人

部署代理程式平台的雲端業者、企業 IT 團隊與系統整合商,可用此資料規劃後續自行驗證的測試條件。不同地區與使用情境的影響,仍須由相關單位自行評估。

已確認與未確認

已確認的是 Intel 自行公布的配置與測試數據;不同硬體、軟體版本與真實負載下的結果,仍須獨立重測。