原文標題:Introducing AMD Helion, Agentic AI Compute at Rack Scale
AMD 於 10 月 12 日發表 Helion 代理式 AI 機櫃參考設計,將 CPU 執行代理程式、GPU 負責模型推論,以及相關軟體與網路管理納入可組合的基礎架構。這項方案以 Open Compute Project 的規格設計為基礎,延續 AMD 既有 Helios 機櫃規劃的開放式方向,但並非宣稱所有配置已經正式出貨。
AMD 提出兩類典型部署方式:第一種為純 CPU 機櫃,使用第六代 AMD EPYC 處理器,設計可容納最多 32,768 個 CPU 核心,適合將代理程式執行與外部模型推論分離的超大型環境;第二種為整合 EPYC CPU 節點、AMD Instinct MI350P GPU 節點及一般運算資源的混合式機櫃,主要面向企業端的整合部署。
官方強調 Helion 可依工作負載選擇氣冷或液冷形式,讓系統整合商在效能、核心密度、供電與成本間調整配置。其軟體設計包含整合式 token router,目標是將代理程式對不同模型的呼叫分配到適合的推論資源,涵蓋前沿模型與開源模型的使用情境。
AMD 表示將把 Helion 規格貢獻給 OCP,供社群後續發展;目前相關機櫃仍與生態系夥伴共同開發,預計於 2026 年 11 月提供配置。公告列出 Cisco、Dell、Lenovo、鴻海及其他廠商的支持,但沒有公開各合作夥伴的售價、訂購條件或實際部署數量。
發生了什麼事
AMD 推出 Helion 開放式機櫃參考設計,提供純 CPU 與 CPU/GPU 混合部署選擇,並計畫將規格交由 OCP 社群共同發展。
為什麼重要
代理式 AI 的模型呼叫與程式執行資源需求不同,模組化機櫃讓企業可按工作負載配置 CPU、GPU、冷卻與供電,避免只能採用單一固定架構。
影響哪些人
超大型雲端業者、企業 AI 平台、伺服器 OEM/ODM 與系統整合商是主要對象;個人電腦與一般消費者並非此設計的直接市場。
已確認與未確認
已確認 32,768 核心是純 CPU 示範配置上限,11 月為計畫供應時間;實際上市地區、採購價格、第三方效能及合作夥伴交付進度仍待公布。