原文標題:Our newest TPUs: 8tx and 8i Max, built for the agentic era
Google 於 11 月 9 日公布 TPU 8tx 與 TPU 8i Max,將第八代 TPU 家族擴充為四款系統。公司強調,這次新增的是圍繞既有晶片調整運算、網路、記憶體與安全配置的系統,不代表兩款全新晶片設計,目標是配合智慧體工作負載持續變化的需求。
TPU 8tx 採用與 TPU 8t 相同的矽晶片,搭配第五代 AMD EPYC 主機處理器,將硬體隔離與機密運算保護延伸至敏感資料及模型權重的處理階段。AMD 表示,EPYC 負責資料準備、工作協調及加速器通訊,並運用 SEV 技術支援保護。8tx 也採低延遲 Boardfly 網路,供安全推論、小規模訓練及私有資料微調使用。
TPU 8i Max 則把兩顆 TPU 8i 放入單一封裝,運算量、SRAM 與 HBM 頻寬均為單顆 8i 的兩倍,用來處理大型上下文及提高機櫃運算密度。Google 同時介紹 PyTorch 支援、推論服務及記憶體管理軟體,並將四款系統分別定位於大型訓練、低延遲推理、機密運算與高上下文推論。
發生了什麼事
Google 在既有第八代 TPU 架構上增加 8tx 與 8i Max 系統,前者主打硬體層級的機密運算,後者以雙晶片封裝提升大型上下文所需資源。
為什麼重要
智慧體部署同時需要資料保護、記憶體頻寬與多步驟推理效率。這次以系統配置區分用途,反映加速器競爭已涵蓋主機、互連與軟體整體設計。
影響哪些人
處理敏感資料的企業與政府,以及執行大型程式庫或長影片分析的模型團隊,是這兩款系統的主要目標使用者;平台團隊也需評估軟體相容性。
已確認與未確認
已確認兩款系統定位、8tx 的 EPYC 主機配置及 8i Max 雙晶片設計。原文未完整列出各地供應與價格,效能敘述為官方資料,未經獨立重測。