AWI Research Lab公佈智能體安全驗證結果
先了解這件事
2026年11月19日,DEV Community報道稱,AWI Research Lab在 AWI → HTTPS(PHAROS S67/S68)研究中,提出以形式化建模和反例測試取代概率式防護的智能體授權架構。報道列出PHAROS S67通過291/291項測試、95/95次對抗壓力測試,並以Lean 4.35.0驗證27個抽象定理;當時未提供PHAROS S68的測試或驗證數據,也未交代部署情況。11月22日,DEV Community再報道其以Lean 4.35.0建立數學驗證架構,將機器檢查的安全定理連接至執行中的安全程式,以取代由另一個模型判斷AI行為是否安全的統計式「護欄」。報道稱,在30個項目及引擎類別中,19項定理全部證明,34個執行時強制執行點有1,024/1,024項符合;PHAROS SHIELD則在161項對抗性安全回歸測試中,阻擋全部63個無效授權狀態。
AI 根據報道生成 · 1 小時前更新
事件進展
2 個進展
- 11月22日 23:00 · 1 篇報道AWI以Lean 4驗證AI代理安全架構DEV Community:AWI Research Lab 如何以 Lean 4.35.0 證明 AI「護欄」只是統計假象,並為自主世界構建 HTTPS
- 11月19日 10:12 · 1 篇報道AWI公佈代理式網絡安全研究成果DEV Community:900 秒自毀協議:智能體互聯網為何仍以明文運作,概率式 AI 防護為何失效
報道時間線
沿着報道,瞭解事件的不同側面。
- DEV CommunityAWI Research Lab 如何以 Lean 4.35.0 證明 AI「護欄」只是統計假象,並為自主世界構建 HTTPS
AWI Research Lab 以 Lean 4.35.0 建立數學驗證架構,將機器檢查的安全定理連接至執行中的安全程式,取代由另一個模型判斷 AI 行為是否安全的統計式「護欄」。在 30 個項目及引擎類別中,19 項定理全部證明,34 個執行時強制執行點有 1,024/1,024 項符合。PHAROS SHIELD 在 161 項對抗性安全回歸測試中,阻擋全部 63 個無效授權狀態。
- DEV Community900 秒自毀協議:智能體互聯網為何仍以明文運作,概率式 AI 防護為何失效
AWI Research Lab 在 AWI → HTTPS(PHAROS S67/S68)研究中,提出以形式化建模和反例測試取代概率式防護的智能體授權架構。PHAROS S67 通過 291/291 項測試、95/95 次對抗壓力測試,並以 Lean 4.35.0 驗證 27 個抽象定理。
本事件熱度走勢
當前熱度 10·可比範圍峯值 10(11月19日 11:00)·近 24 小時可比範圍變化 –
趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指針或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。