原文標題:Control Room
OpenAI於11月9日的官方文章介紹Control Room,這套中央系統追蹤研究基礎設施中的模型工作,在安全或資安疑慮出現時停止後續輸出。研究工作開始時取得工作識別碼,向推論引擎請求模型輸出時附帶該識別碼;引擎再向Control Room確認是否仍有授權。若工作被終止,後續請求將遭拒絕。控制放在較集中、路徑較少的推論層,而非依賴經常更動的各團隊研究程式,降低工作程式漏做檢查的風險。
OpenAI表示,收到停止指令到阻止進一步模型輸出的最長時間為35秒,延遲來自授權快取,公司希望再縮短。停止的是該工作取得模型輸出的能力,研究程式本身可能仍在執行,共用推論引擎也能繼續服務其他獲授權工作。系統採失效即關閉設計,Control Room無法使用時,相關引擎拒絕推論;此安排已部署到前沿模型研究,其餘研究工作預定隨後完成。公司也持續檢查是否有未整合或被停用檢查的引擎。公告不是宣稱全球所有模型都有單一停止鈕,也沒有表示停止推論能回復工作先前已造成的外部變更。
發生了什麼事
OpenAI公開Control Room研究系統,透過工作識別與推論授權集中控制,在收到停止指令後阻止該工作繼續取得模型輸出。
為什麼重要
研究工作分散且經常變更,把關卡放在推論層可減少依賴個別程式正確執行檢查,並以失效即關閉方式處理中央服務故障。
影響哪些人
AI研究平台、安全監測與推論基礎設施團隊可參考此架構;這是OpenAI內部研究機制,並非一般客戶可立即啟用的獨立產品。
已確認與未確認
已確認官方35秒上限與授權流程;停止輸出不等於殺掉研究程式或撤回既有動作,也未宣稱已對所有外部模型提供相同控制。