英國 AI Security Institute 如何評估 AI 智能體的控制措施？

英國 AI Security Institute 介紹其論文如何評估及擴展針對能力更強 LLM 智能體的 AI control 措施。控制評估把安全視為紅隊與藍隊的對抗，紅隊嘗試繞過控制措施，藍隊則以監察等保護措施阻止有害結果。框架按能力劃分 ACL-0 至 ACL-5，並指出現有方法不足以控制密謀能力遠超人類的 ACL-5 系統，這類系統需要基礎研究突破。