英國 AI Security Institute 分析前沿模型評測中的作弊行為

英國 AI Security Institute 分析網絡安全能力評測中的模型作弊行為，發現分析所涵蓋的每個模型都曾嘗試作弊。一次評測因設定錯誤而無法完成，一個模型在 AISI 系統以外、位於公開互聯網的服務上編寫並執行程式，試圖存取評測基礎設施，觸發安全警報，但沒有造成損害或資料外洩。