Microsoft 發表 Maia 300 推論架構與機櫃設計
Microsoft 10 月 12 日公布 Azure Maia 300 加速器架構，單櫃整合 96 顆晶片與 HBM4 記憶體。官方表示，完整機櫃的 Token 吞吐量最高為前代七倍，主要鎖定大型 AI 模型推論。
標籤
Maia 300
與「Maia 300」相關的科技新聞。
與「Maia 300」相關的科技新聞。
Microsoft 10 月 12 日公布 Azure Maia 300 加速器架構，單櫃整合 96 顆晶片與 HBM4 記憶體。官方表示，完整機櫃的 Token 吞吐量最高為前代七倍，主要鎖定大型 AI 模型推論。