跳到正文
DEV Community· Shivam Kumar·· 9 天前精選AI 評分82

AlphaProof Code:信任 AI 驗證程式碼庫前,開發者的檢查清單

AlphaProof Code: A Developer's Checklist Before You Trust an AI-Verified Codebase

AI 導讀

Shivam Kumar 以 Google DeepMind 的 AlphaProof Code 驗證 Signal 密碼核心為案例,提出信任 AI 驗證程式碼庫前的開發者檢查清單。

推薦理由

清單將形式化驗證拆解為證明邊界、假設、可審核產物及人工作用等檢查點,並説明證明正確不代表規格完整。

正文 · 繁體中文

AlphaProof Code:信任 AI 驗證的程式碼庫之前,開發者必看的檢查清單

Shivam Kumar | VisionQuantech | November 11, 2026

Google DeepMind 於 November 10, 2026 宣佈推出 AlphaProof Code:一個 Agent 框架,在四星期內以形式化方法驗證了 Signal 協定的密碼學核心——libsignal v0.105.4(已編譯為 AArch64 機器碼)。由 Gemini 4 Carbon 驅動的 Agent 生成了超過 6.5 million 行 Lean 證明。每項證明均經 Lean 核心檢查。翌日一項獨立統計發現,11,323 個檔案合共包含 7,528,293 行,標題所述的證明中則有零個 sorry。

這是首次有任何方法以如此深入的程度驗證一個廣泛部署的密碼學協定。這也是大部分開發者首次需要評估經機器檢查的證明,而非測試套件。以下是我在信任這類證明前會採用的檢查清單。

1. 檢查實際證明瞭甚麼,以及作出了哪些假設

AlphaProof Code 證明瞭十個符號定理:前向保密性、事後入侵安全性、發起方和回應方的保密性、身份驗證,以及 PQXDH 定理 1 的五個推論。涵蓋範圍:一對一會話、PQXDH 握手、Triple Ratchet,以及僅限 AArch64。

它沒有證明的內容包括:羣組聊天、連結裝置狀態、作業系統、你的手機或密碼學原語——這些均以假設建模。論文明確指出,SPQR 的修復特性尚未建立任何後量子安全保證。在引用驗證結果前,請用一段文字列出假設。如果做不到,代表你尚未理解這項結果。

2. 親自驗證成品——它是公開的

完整成品集載於 github.com/google-deepmind/code-verification(commit 808b4b7,Apache 2.0)。Dev.to 上一名陌生人於 24 小時內複製了該成品集,使用 wc -l 統計每個 .lean 檔案,並以 grep 搜尋 sorry、native_decide 及額外公理。你也可以在十分鐘內做同樣的事。若一項驗證主張附有可供你審核的公開儲存庫,它便與基準測試表格完全不同。要求對方提供儲存庫,否則就應降低對該主張的信任程度。

如果你想重新執行核心檢查,請預留時間和資源進行重建:需要數小時、峯值 RAM 為 15–34 GiB,並固定使用 Lean 4 v4.34.0 和 Rust 1.98.1。這是 CI 伺服器的工作,不需要預約超級電腦。

3. 尋找可證偽性測試

DeepMind 將兩個真實且先前已修復的錯誤重新引入 Signal 程式碼的隔離副本。AlphaProof Code 產生了經機器檢查的結果,指出有缺陷的版本違反了預期屬性。若驗證器在任何情況下都通過,便證明不了任何事——這個驗證器找出了刻意植入的錯誤。任何向你推銷「AI 驗證」的供應商,都應該能展示同類測試:一個系統會標示出來的已知錯誤輸入。明確要求對方提供這項測試。

4. 編列預算前,先計算比例

根據 DeepMind 提供的數字,我自行計算得出:6.5 million 行證明對應約 140,000 條機器指令,即每條指令約有 46 行證明,或每 kilobyte 原始碼約有 11,600 行證明。編列預算時應以這個比例為準,而不是標題所説的四星期。一個 560 KB 的程式碼庫需要 529 MB 的證明成品。驗證所產生的成品,比程式碼本身大一個數量級。

其處理量同樣值得參考:28 日內持續產生 6.5 million 行,即每日約 232,000 行。Agent 團隊在單一機器上運行,每個 Agent 工作 24–72 小時,團隊規模為 40–80 個 Agent。這是一座配備確定性品質關卡的工廠,而不是單純由模型快速撰寫程式碼。

5. 找出人為瓶頸——它只是轉移了,並沒有消失

受信任基礎約有 26,000 行:約 18,000 行規格(連同文件則為 28,000 行),加上約 8,000 行 AArch64 語義。每份規格都由人類審閲;沒有作者撰寫任何證明程式碼。換言之,人類審閲了整個產物約 0.4%,其餘 99.6% 之所以可信,是因為 Lean 的核心進行了檢查。

稀缺資源不再是撰寫證明的人力,而是撰寫規格的判斷力。若規格不完整,即使證明正確,安全性仍然不完整。如果你的團隊採用這種做法,應招聘和培訓撰寫規格的人,而不是證明撰寫者。

6. 保留現有的安全網

形式化驗證不能取代模糊測試、滲透測試、依賴項檢查或營運監察。密碼學可能在已證明邊界之外失效——也就是那些經假設、而非經證明的部分。AlphaProof Code 證明編譯後的程式碼在指定模型下保留指定屬性。邊界之外的一切,仍然需要沿用舊有工具。

給你下一個項目的啟示

精確寫下系統絕不能做甚麼。這份規格如今是安全計劃中最有價值的產物——這是機器無法替你撰寫的部分,也是人類仍必須做對的部分。然後讓 Agent 負責證明,讓核心負責判定。

「AI 寫了,所以一定正確」的時代即將結束。「AI 已證明,而且證明檢查器也認可」的時代剛剛開始——短短四星期內,這已應用於保護數十億次對話的程式碼。

資料來源

  • Google DeepMind,《Formal Verification of Signal's Protocol with Gemini》,2026年11月10日
  • github.com/google-deepmind/code-verification(commit 808b4b7,Apache 2.0)
  • Frank Chu,《6.5M 行 Lean:我統計了 DeepMind 的 Signal 證明》,Dev.to,2026年11月11日

Shivam Kumar 是 VisionQuantech 的創辦人,為小型企業開發 AI Agent 和自動化方案。

來源:DEV Community · dev.to