原文標題:Introducing AlphaProof Code: a breakthrough in verifying complex software at depth
Google DeepMind於11月10日公布AlphaProof Code研究,結合人類專家與多模型智慧體,對Signal協定核心密碼程式的指定安全性質進行形式驗證。團隊先與模型把安全目標轉成數學規格,每項規格都經專家審查,再由Gemini Carbon驅動的智慧體產生Lean證明,透過可由機器檢查的推導,核對實作是否符合所指定的要求。
研究著重從協定設計進一步深入到實際程式及編譯後實作,涵蓋裝置暫時遭入侵前後仍保護訊息等性質。官方表示,智慧體也協助稽核證明,標出需要人類再看的部分,讓專家集中處理需要判斷的環節;其餘推導由Lean檢查。團隊宣稱研究流程歷時四週,但這是本次研究的執行結果,不能套用為任何軟體都能在同樣時間完成驗證。
為檢驗方法能否辨別有問題的程式,研究者在隔離版本重新放入兩個已修正的真實錯誤,系統均產生可由機器檢查的不安全性證明。DeepMind也宣布開源形式驗證產物,供社群使用。這項成果的保障範圍仍取決於人類訂定的規格與受驗證程式,並不代表Signal整套應用、作業系統或執行環境不存在其他風險;把方法擴展至更多關鍵系統,官方也明言仍需持續研究。
發生了什麼事
DeepMind公布AlphaProof Code,讓人類專家審核安全規格,再由智慧體產生證明並交由Lean檢查。本次研究聚焦Signal核心密碼程式的指定安全性質。
為什麼重要
形式驗證若能涵蓋實作,就能縮小協定設計與真正執行程式之間的落差。研究也以已修正錯誤的隔離版本測試辨識能力,但結論仍受規格與驗證範圍約束。
影響哪些人
主要影響密碼協定、形式方法與軟體安全研究團隊,以及評估智慧體輔助驗證的開發者。開源產物提供進一步檢查途徑,不能直接取代其他系統安全工作。
已確認與未確認
已確認官方研究流程、隔離錯誤測試及開源安排。原文正文與結構化描述的證明行數不同,稿件不採行數;研究也不等於Signal整套服務已獲無漏洞保證。