英國 AI Security Institute 以紅藍隊對抗賽測試十種 AI 模型刻意示弱檢測方法

英國 AI Security Institute 以紅隊與藍隊對抗賽測試十種 AI 模型刻意示弱檢測方法，未找到可可靠檢測的單一方法。黑盒方法大多無效，白盒線性探針曾有成效但會受幹擾；分佈內訓練只用一個示例便在每個案例恢復完整表現，卻也提升良性模型的表現，因此較適合消除而非檢測刻意示弱。