原文標題:Intel Offers Day-0 Support for Meta's Muse Spark Open
Intel 在 10 月 15 日的官方 Newsroom 文章表示,已為 Meta 發布的 Muse Spark Open 開放權重模型準備 Intel Xeon 處理器與資料中心 GPU 的推論支援。Intel 將這款模型描述為具備 8,160 億參數、100 萬 token 上下文視窗的多模態模型,重點包括程式碼產生、除錯、理解大型程式庫、工具呼叫,以及長時間執行的代理式工作流程。
依 Intel 的說明,Muse Spark Open 能理解文字之外的音訊、影片、影像及文件,也能在代理式流程中規劃、執行、觀察結果並修正後續步驟。這些屬於模型及廠商對能力的描述;文章沒有提供可直接重現的完整第三方基準測試,因此不宜把相關宣稱視為已獨立驗證的準確率或實際產能。
在 GPU 端,Intel 展示模型於四張 Intel GPU D-series 上執行,每張卡配置 160GB LPDDR5X 記憶體。GPU D-series 採 Xe3P 架構,官方列出 32 個 Xe3P 核心、256 個 XMX 引擎與 MXFP4 等低精度資料格式加速能力。Intel 品牌卡的記憶體配置為 160GB,合作夥伴可依設計選擇最高 480GB;因此不能將 480GB 誤寫成每張正式產品的標準容量。
GPU D-series 採 PCIe 介面與氣冷設計,官方標示功耗 350W。Intel 主張,四張 160GB 卡可在傳統氣冷資料中心機櫃中部署 8,160 億參數等級模型,降低對特製機櫃與冷卻設備的依賴。不過這是 Intel 公布的部署展示,實際吞吐量、延遲、批次大小與完整記憶體占用並未一併提供。
在 CPU 端,Intel 指出 Xeon 可透過 INT4 weight-only quantization(WOQ)減少模型權重所需記憶體,並利用 Intel AMX 加速矩陣運算。這一路線主要面向能利用大容量系統記憶體進行離線推論的環境。Intel 已公布配合 SGLang 的部署說明,並持續與 vLLM 社群合作加入 Xeon 的操作範例。
軟體部分,Intel 將 Muse Spark Open 原始 BF16 權重轉換為 MXFP4 與 INT4 版本,使用 llm-compressor 與 AutoRound 進行量化。MXFP4 壓縮權重主要對應 GPU D-series,GPTQ 格式的 INT4 權重則對應 Xeon;官方也提到 vLLM 與 SGLang 的上游支援。此次文章沒有宣布 GPU D-series 的正式零售價格、廣泛供貨日期或模型在不同硬體上的獨立比較結果。
發生了什麼事
Intel 宣布在 Xeon 與 GPU D-series 平台支援 Meta Muse Spark Open,並展示四張 160GB GPU D-series 執行 8,160 億參數模型,提供低精度量化與開源推論框架整合。
為什麼重要
超大型開放權重模型的部署瓶頸不只有算力,也包括權重容量、記憶體頻寬與軟體相容性。Intel 藉由 MXFP4、INT4 量化及既有框架,提出不同於單一加速器的部署選項。
影響哪些人
管理大型 AI 模型的資料中心、企業內部推論平台、需要分析大型程式碼庫的開發團隊,以及評估 Xeon 或 GPU D-series 的系統整合商,可據此了解 Intel 的初步支援方向。
已確認與未確認
官方確認模型規模、100 萬 token 上下文、四卡 160GB 示範,以及 GPU 與 Xeon 對應的量化方式;但未公布可重現的完整效能數據、成本或 GPU D-series 全面出貨日期。