NVIDIA 全棧協同設計使 Vera Rubin 吞吐量增 30 倍
面對數兆參數模型帶來的 HBM 記憶體壓力，NVIDIA 闡述如何透過全棧協同設計最佳化記憶體階層，使 Vera Rubin 平台每美元智慧體推論吞吐量較 Blackwell Ultra 提升達 30 倍。
標籤
Blackwell Ultra
與「Blackwell Ultra」相關的科技新聞。
與「Blackwell Ultra」相關的科技新聞。
面對數兆參數模型帶來的 HBM 記憶體壓力，NVIDIA 闡述如何透過全棧協同設計最佳化記憶體階層，使 Vera Rubin 平台每美元智慧體推論吞吐量較 Blackwell Ultra 提升達 30 倍。