原文標題:Qualcomm HBC demonstrates AI inference leadership with validated silicon
Qualcomm Technologies 於 11 月 2 日公布第一代 Qualcomm High Bandwidth Compute(HBC)晶片的實體驗證結果。工程團隊在美國聖地牙哥實驗室使用產業標準自動測試設備,讓晶片在具量產代表性的尺寸與資料路徑上完成完整記憶體讀寫,以及靠近記憶體執行的運算測試。測試資料包含隨機化權重與啟用值,用以驗證硬體而非僅依靠架構模擬。
大型語言模型推論時,運算單元需要持續從記憶體取得模型資料。Qualcomm 指出,資料搬移的能耗與延遲會限制資料中心的輸出吞吐量及總持有成本。HBC 將部分運算移近記憶體,目標是減少資料往返距離並提高有效頻寬,改善每瓦效能;此次測試證明關鍵資料路徑可以在實際晶片上運作,但不等於最終商用加速器已達到所有效能目標。
官方說明,HBC 專案已完成專用測試載具與晶片的電氣、熱及物理基礎驗證,並與晶圓代工、封裝夥伴開發及表徵跨世代晶圓對晶圓鍵合製程。設計也納入冗餘、重新映射與缺陷測試方法,以處理記憶體瑕疵及電氣、散熱、鍵合與介面失效模式。Qualcomm 表示,資料中心產品已完成 tape-out,搭配多層鍵合 DRAM 的邏輯底座正進行早期啟動測試並取得成果。
下一步是將 HBC 整合進 Qualcomm Dragonfly AI250 推論加速器,官方預計 2027 年上半年開始送樣,並規劃作為 Dragonfly Rack 全機架推論方案的一部分。Qualcomm 將目標客群設定為大型雲端業者、資料中心及企業,希望以可拆分的開放機架架構改善每美元、每瓦可產生的 token 數量。
官方圖表的效率比較採用第一代晶片量測值,經目標運作條件正規化後,再與競品已公布規格比較。這不等同同一環境下的最終量產系統實測;實際結果仍會隨產品實作、工作負載及系統設定改變。官方沒有公布正式售價、量產供貨日期、完整頻寬數值或各市場供應安排。
發生了什麼事
Qualcomm 宣布第一代 HBC 實體晶片已驗證完整記憶體讀寫與近記憶體運算,並將技術導入預計 2027 年上半年送樣的 Dragonfly AI250。
為什麼重要
AI 推論的瓶頸不只有算力,模型資料搬移所需的頻寬與能耗也決定整體效率。HBC 驗證提供了從架構構想走向實體封裝與產品整合的證據,但目前仍屬工程階段。
影響哪些人
大型雲端業者、AI 資料中心建置商、企業推論平台採購者及先進封裝供應鏈,將關注這項近記憶體運算技術是否能降低推論系統成本。
已確認與未確認
已確認實體資料路徑測試、鍵合與缺陷處理方向、資料中心產品 tape-out,以及 AI250 預定送樣時程;未確認量產規格、價格、實際出貨日期及獨立系統效能。