原文標題:Build, Reason and Act with Reflection Beam on Dell AI Factory
Dell Technologies 於 10 月 16 日宣布,Reflection AI 的開放權重模型 Beam 已透過 Dell Enterprise Hub 提供企業部署。雙方合作目標是讓推理、程式開發及代理工作流程在企業自有資料中心運作,而非必須把資料交給外部託管服務。Reflection 負責模型、推論與代理軟體,Dell 提供伺服器、儲存、資料整合及部署自動化基礎。
Beam 採稀疏 Mixture-of-Experts(MoE)架構,約有 5,010 億總參數,每個 Token 啟用約 230 億參數,上下文長度最高可達 100 萬 Token。官方將其定位為文字輸入、文字輸出的推理、程式撰寫、工具呼叫、結構化輸出與長時間代理任務模型。這些數字代表架構能力,並非所有硬體都能在最高上下文設定下達到相同延遲或吞吐量。
企業可從 Dell Enterprise Hub 取得針對 Dell PowerEdge 調校的容器與部署組態。Dell 建議新正式部署使用搭載 NVIDIA B300 GPU 的 PowerEdge XE9780,部分既有 NVIDIA Hopper GPU 的 PowerEdge 伺服器也可支援。平台可使用 NVIDIA Dynamo 進行分散式推論調度,搭配 SGLang 執行,亦提供 vLLM 路線。
在資料與治理層,Dell AI Factory 將 GPU 運算、AI 原生儲存與 Dell AI Data Platform 結合,讓模型接觸企業資訊並與應用程式協作。Dell Enterprise Hub 和 Dell Automation Platform 協助模型取得與部署;Reflection 的 Mirror 代理框架仍處於早期測試,未來計畫加入身分、政策、安全防護與稽核能力,不能視為完整正式上線。
Reflection 表示 Beam 以可調整的推理長度懲罰訓練方式,讓使用者在回應速度與複雜推理需求之間選擇。官方也說明其安全訓練結合監督式微調、強化學習、多教師蒸餾與對抗測試,並計畫公布安全評估結果。模型以 Apache 2.0 授權釋出,可搭配 Hugging Face Transformers、SGLang 及 vLLM。
這項消息的核心是可部署模型與企業硬體整合,而非宣布 Dell 已提供完整自動化代理系統。使用者仍需評估 GPU 記憶體、模型安全、資料治理及實際成本。
發生了什麼事
Reflection Beam 已能透過 Dell Enterprise Hub 在支援的 PowerEdge 系統部署,並連接 Dell AI Factory。
為什麼重要
百萬 Token 上下文與稀疏 MoE 架構讓大型企業文件與程式代理有新的本地部署選項。
影響哪些人
企業 AI 平台團隊、軟體工程師、資料治理與資安管理者。
已確認與未確認
已確認模型參數、授權與建議硬體;Mirror 仍是早期測試,實際吞吐與安全成效需個別驗證。