Anthropic 部署前對齊審核可識別明顯蓄意破壞模型

Anthropic 測試部署前對齊審核能否識別明顯破壞模型，人工審核者與自動審核代理合作，成功區分 3 個破壞模型與 2 個良性模型。自動審核代理單獨只在量化指標或審核報告中找出 3 個中的 1 個；人工覆核高分對話，提供另外兩個模型的關鍵破壞證據。這項測試只涵蓋未刻意規避審核的明顯破壞模型，未涵蓋能察覺評估並隱藏行為的情況。