原文標題:An update on independent evaluators
Anthropic 10 月 15 日更新第三方模型安全評估制度,宣布已讓非營利研究機構 METR 的六名人員以接近公司內部風險評估團隊的方式取得工作設備、辦公空間及內部工具權限。這項安排的目的,是讓外部評估者不只測試公開模型,也能接觸與模型風險判斷相關的內部流程和資訊。
依 Anthropic 說明,METR 團隊能在受約束的保密與安全協議下查看大部分風險評估資料,但客戶資料、法律特權資訊及模型架構等少數類別受到限制。METR 可以自行發表對風險程度、事件或公司做法的分析;Anthropic 不能否決發布,但可針對預先約定的敏感類別要求遮蔽。METR 仍可公開評論遮蔽是否合理,只是不能揭露受保護內容。
Anthropic 認為,外部研究者若只看到模型公開介面,難以了解公司內部如何訓練模型、測試防護或處理事件。新安排試圖縮小外部與內部掌握資訊的落差,並參考高風險產業透過常駐審查者提高監督能力的概念。
除了 METR,Anthropic 也與 SecureBio、Accenture 合作,並與 Hugging Face 等機構初步接觸。公司正建立三個評估存取層級:第一級以範圍較窄的調查為主,公開結果須取得同意;第二級可在較大資訊範圍內自主發布;第三級則是 METR 目前取得的類員工存取方式。
Anthropic 表示,這不是讓其他公司任意取得客戶或模型機密的通道,參與 METR 評估的少數人員也與其機構內其他工作團隊隔離。最終安全評估結果仍須等待 METR 發表,不能把啟動合作直接解讀為模型已通過獨立安全認證。
發生了什麼事
Anthropic 讓六名 METR 評估員以接近內部團隊的權限審查 AI 風險,並允許其獨立公開結果。
為什麼重要
前沿模型風險常涉及不公開的訓練與防護資訊;深入存取及公開權利可能提升外界對安全主張的可檢驗程度。
影響哪些人
模型供應商、企業採購方、AI 安全研究者與監管機關都可能關注這種第三方監督機制。
已確認與未確認
已確認 METR 的六人安排及資訊遮蔽規則;尚未有本次審查結果,其他評估夥伴的合作深度也仍在發展。