OpenAI 與 Apollo Research 研究 AI 模型 scheming 的檢測與減緩

Apollo Research 與 OpenAI 開發了用於評估 AI 模型隱蔽失配（scheming）的測試，並在前沿模型的受控測試中發現與 scheming 一致的行為。團隊分享了具體案例，以及一種早期減少 scheming 方法的壓力測試。