跳到正文
TNW· Ana Maria Constantin·· 7 天前精選AI 評分78

Google DeepMind 的 AI 智能體用 AlphaProof Code 形式化驗證 Signal 加密程式碼

Google DeepMind’s AI agents formally verify Signal’s encryption code

AI 導讀

Google DeepMind 公佈 AlphaProof Code,利用 AI 智能體形式化驗證 libsignal 的部分程式碼,檢查 Signal 一對一聊天的多項安全性質。研究團隊在四週內產生約 6.5 million lines 的證明,研究人員沒有撰寫證明程式碼。驗證範圍限於研究人員自行構建的程式庫,未涵蓋 Signal 應用程式、羣組訊息或金鑰生成。

推薦理由

這項工作展示 AI 智能體如何配合人工制定規格與 Lean 證明,並界定驗證範圍,呈現形式化驗證的實際流程與限制。

正文 · 繁體中文

Google DeepMind 表示,AI Agent 已以數學方式證明,Signal 加密技術背後的程式碼符合其主要安全承諾。研究機構於 11 月 10 日公佈結果,並同時推出名為 AlphaProof Code 的新框架及一份技術論文。

Signal 協定保護 Signal 應用程式、WhatsApp、Messenger 及 Google Messages 中的對話。DeepMind 研究人員逐層檢查開源 Signal 加密程式庫 libsignal,直至在裝置上執行的機器碼。研究機構在一篇DeepMind 網誌文章中稱,這是首例。它表示,以往從未有人「以任何方法,無論有否使用 AI」,正式驗證過如此廣泛使用的協定程式碼。技術論文詳述方法及其限制。

Signal 技術總監 Ehren Kret 在 DeepMind 發布的聲明中表示:「隨着 AI 驅動的安全威脅增加,透過自動定理證明嚴格驗證 Signal 核心協定,讓我們更有信心確保程式碼落實私隱保障。」

Agent 如何完成驗證

形式化驗證利用數學證明軟件符合預期功能。它不會逐一尋找程式錯誤,而是排除整類錯誤。這種驗證長期以來既耗時又昂貴:論文指出,驗證 seL4 微核心花了 20 人年。

AlphaProof Code 把工作拆分處理。由人類決定要證明甚麼。AI Agent 協助把 Signal 的安全目標轉化為形式化規格,並由人類專家逐一審核。之後,由 40 至 80 個在 Gemini 4 Carbon 上運行的 Agent 組成的團隊撰寫證明。他們使用 Lean,一種用於機器核查數學的語言。

論文指出,這個由五名研究人員組成的團隊在四星期內產生約 650 萬行證明程式碼。作者無一人編寫過證明程式碼。在 Gemini 4 Carbon 和 Anthropic 的 Claude Opus 5.5 上運行的 Agent 負責起草及審核規格。

這些證明涵蓋 Signal 的後量子握手協定及 Triple Ratchet;後者會為每則訊息產生新的金鑰。證明顯示,協定具備前向保密功能:即使有人其後竊取手機金鑰,舊訊息仍可獲得保護。證明亦涵蓋認證及遭入侵後安全性,即協定在遭入侵後恢復安全的能力。

為測試這種方法,團隊把 libsignal 過往兩個已由 Signal 修正的程式錯誤重新引入。在兩種情況下,系統均證明有錯誤的程式碼並不安全。Lily Hay Newman 在為 Wired 撰寫的報道中指出,系統沒有在受檢查的部分發現新漏洞。

未能證明的事項

這些保障的範圍比「Signal 是安全的」狹窄。論文涵蓋研究人員自行建置的程式庫版本中的一對一對話,而非 Signal 應用程式。研究人員把羣組訊息功能留待日後研究,亦沒有驗證金鑰生成。這些證明亦假設低階密碼學程序按規格運作。

論文指出,這些證明均未能證明 Signal 最新的棘輪層旨在加入的後量子修復能力。成本亦是未解問題。Google 拒絕透露項目成本,亦沒有説明是否計劃推出商業驗證產品;《Wired》報道了這一點。

DeepMind 研究科學家 Swarat Chaudhuri 向《Wired》表示:「我們對這項成果感到非常振奮,但要把這種做法擴展至全球所有軟件,還有很長的路要走,而我們希望做到這一點。」

Chaudhuri 向The Register表示,現在的難點在於決定要檢查甚麼,而非檢查本身。

Chaudhuri 向 The Register 表示:「我們深信,下一個前沿領域不會是證明,而是規格。」

這項工作是邁向 Signal Shot 的一步。The Beneficial AI Foundation、Signal 和 Lean FRO 在 4 月提出這項挑戰,目標是在 Lean 中驗證 Signal 協定和應用程式。DeepMind 正在 GitHub 發佈其規格和證明,讓其他人可以檢查。Google 本週向付費開發者開放了 Gemini 4 Carbon。

來源:TNW · thenextweb.com