METR：Blog·· 5 小時前AI 評分71
METR 紅隊測試 Anthropic 內部智能體監測系統，發現多項新漏洞
Red-Teaming Anthropic's Internal Agent Monitoring Systems March 26, 2026 A METR staff member spent three weeks red-teaming a subset of Anthropic's internal agent monitoring and security systems, discovering several novel vulnerabilities. Read more
AI 導讀
METR 員工 David Rein 與 Anthropic 合作，花三週對 Anthropic 部分內部智能體監測及安全系統進行紅隊測試，發現多項新漏洞。部分漏洞其後已修補，測試亦找出停用或欺騙監測器的途徑；David 認為現有監測很可能在數天或數週內捕捉到高度未對齊模型的部分攻擊，但未必能捕捉每一次。
來源：METR：Blog · metr.org