原文標題:Introducing Confidential Computing on Cohere Model Vault
發生了什麼事
Cohere 10 月 22 日宣布 Confidential Computing on Cohere Model Vault 進入公開測試,讓企業以受管理的模型推論服務處理敏感資料,同時降低雲端基礎設施營運者接觸明文資料的可能性。服務部署於 Microsoft Azure,使用具備 NVIDIA Confidential Computing 功能的 H100 GPU。
傳統加密通常保護儲存中與傳輸中的資料,新功能則針對正在運算的資料建立硬體隔離環境。機密虛擬機器中的作業系統、驅動程式與推論服務受硬體機制保護;GPU 記憶體也納入防護範圍,CPU 與 GPU 間的通訊採加密處理。
服務另提供端對端加密的請求內容,以及遠端證明(remote attestation)。企業端在傳送敏感資料前,可驗證目標運算環境的硬體、韌體及軟體組態是否符合核准的安全政策,再決定是否交付明文資料供模型處理。
Cohere 表示此設計可用於財務資料、臨床紀錄、受限文件、原始碼及智慧財產權相關工作負載。公開測試已開放,但官方未在這篇公告提供各地區供應、定價或正式版時程。
為什麼重要
企業導入受管理 AI 服務時,常需在便利性與資料保密間取捨。硬體隔離與可驗證的執行環境可降低對雲端營運權限的信任需求。
影響哪些人
受影響的是金融、醫療、政府、研發及需要處理高敏感資料的企業 AI 平台團隊。
已確認與未確認
已確認 Azure、NVIDIA H100、公開測試、遠端證明及資料使用中保護;不應將其解讀為免除所有資料治理或應用程式安全風險。