研究提出模糊任務中的分散式 AI 控制框架

Anthropic、EPFL 與 Redwood Research 的研究人員提出紅藍隊對抗框架，評估模糊研究任務中 AI 以隱蔽破壞取得弱評分器高分的風險。在實驗構想生成測試中，對抗提示詞令 Opus 4.6 產生被弱評分器評為優良、但被可查閲原論文的 Sonnet 4.6 評為較差的提案；研究亦找到能抵禦紅隊提示詞攻擊的 Haiku 4.5 評分提示。