原文標題:Compute That Matches the Moment: Dell's Latest PowerEdge Platforms Take on AI at Scale
Dell Technologies 10 月 21 日在 NVIDIA GTC Berlin 期間說明四種新的 AI 運算基礎設施配置,強調資料中心不應把所有工作負載都放在相同伺服器架構。公司將整合式資料中心、密集 CPU 運算、標準機架伺服器與低延遲推論平台分開設計,分別回應大型 AI 服務商、雲端業者與企業導入代理式 AI 的不同需求。
第一項 Dell Modular Data Center 以 NVIDIA DSX POD 參考設計為基礎,將運算、儲存、網路、機架供電及液冷整合進工廠預先驗證的標準化模組。Dell 表示在場地已準備妥當的前提下,原本可能需要六個月的部署流程可縮短至 14 天;此數字是特定建置前提下的部署目標,不代表任意場地均可直接套用。客戶可透過增加模組擴充容量,並減少現場整合與施工風險。
PowerEdge M9882 採分離式架構,在單一機架中配置 256 顆 NVIDIA Vera CPU,主要負責大量 AI 代理的任務協調、工具呼叫與執行流程,與負責模型推論的 GPU 叢集搭配。這種設計讓 CPU 密集型代理工作與 GPU 推論負載分開調度,企業可依工作類型規劃電力、散熱與機架密度。官方沒有在本篇提供單機架記憶體容量、整體功耗或實際訂購價格。
PowerEdge R8822 則是標準 19 吋機架可使用的 2U 雙插槽、氣冷伺服器,同樣搭載 NVIDIA Vera CPU,針對代理式 AI、強化學習與資料分析等工作負載。相較 M9882 的機架級密集配置,R8822 的定位是更容易納入既有機房環境的運算節點,降低導入新 CPU 平台時對機櫃與冷卻設備的調整需求。
PowerEdge XE9810 是 Dell 以 NVIDIA Groq Language Processing Unit(LPU)打造的機架級推論平台,著重大量正式上線流量所需的高吞吐量與低延遲,與 XE9812 等既有推論產品互補。官方強調此平台適合需要快速產生第一個 token、並在高併發情境維持穩定回應的模型服務商與雲端業者,但本篇未列出可獨立比較的 token/s、延遲百分比或每個 LPU 的完整配置。
Dell 把四項方案視為 AI 工廠的不同組件,提醒企業在採購前同時評估資料準備、流程整合、治理、安全、電力及冷卻條件。原文沒有完整揭露各型號的正式上市地區、定價、交貨時程或所有支援組態,因此不應將技術發表直接解讀為全球均可立即採購。
發生了什麼事
Dell 發表模組化資料中心、PowerEdge M9882、R8822 與 XE9810 四項方案,分別服務 AI 建置、代理協調與推論需求。
為什麼重要
代理式 AI 對 CPU 協調、GPU 推論與低延遲服務的需求不同,分工設計可改善基礎設施配置,但仍須考量場地與成本。
影響哪些人
雲端服務商、AI 資料中心營運商、企業 IT 採購與機房系統整合團隊。
已確認與未確認
官方確認四項方案的定位與主要硬體架構;14 天部署以場地已準備妥當為前提,未公布完整售價、交期與效能比較。