原文標題:Strengthening our defenses against distillation attacks
Anthropic 於 10 月 12 日發布研究文章,說明如何因應針對 Claude 的未授權模型蒸餾行為。所謂蒸餾攻擊,是攻擊者透過大量、協調的查詢,試圖取得模型的輸出與能力,再用來訓練其他模型。Anthropic 表示,這類活動可能透過大量偽造帳戶與自動化請求執行,與一般開發者依授權條款使用模型的情境不同。
公司表示,近期改進的偵測與防護措施已讓蒸餾攻擊者可擷取的資料量減少約 90% 至 99%。這是 Anthropic 根據目前觀察提出的初步估計,不代表所有攻擊方式都已被阻擋,也不代表任一個模型在所有條件下的資訊外洩風險降至相同程度。
Anthropic 指出,未授權蒸餾可能讓其他開發者以較低成本取得前沿模型的部分能力,卻未同步保留原始系統在生物安全與資安等雙重用途領域的防護措施。官方特別關注高風險能力被轉移到防護較弱的模型,或被納入不透明的軍事、情報與監控應用的情境。這些屬於公司的風險判斷,不能據此推定所有開放權重模型都存在相同問題。
防禦並非沒有成本。Anthropic 表示,為了限制疑似蒸餾活動,公司放棄部分收入,拒絕了規模達數兆 token 的付費流量,研究與產品團隊也投入大量時間調整防護。部分變更還要求合法使用者更新整合方式,反映偵測精度、誤判率、使用體驗與模型安全之間的取捨。
Anthropic 認為,模型開發者需要同時考慮帳戶網路、請求行為、輸出模式及平台合作等不同層次的防護。官方沒有公開可供第三方完整重現的全部偵測參數,也未提供每種蒸餾技術在不同時間段的完整成功率。
發生了什麼事
Anthropic 公布 Claude 模型反蒸餾防護進展,宣稱可擷取資料量初步下降約九成至九成九,並說明防護對合法流量的影響。
為什麼重要
模型能力可能被大規模查詢複製,會牽涉模型開發成本、授權使用與高風險能力外流;防護策略也必須兼顧正常 API 使用者。
影響哪些人
AI 模型供應商、雲端 API 平台、企業開發團隊及研究人員,都需要關注反蒸餾措施對服務可用性、帳戶風控與模型安全的影響。
已確認與未確認
已確認 Anthropic 的初步下降估計與成本取捨;未確認獨立第三方重現結果、全部偵測細節及對所有攻擊型態的長期防護效果。