METR評估Anthropic未對齊風險報告

2026年10月20日，METR發布對Anthropic《2026 年 8 月風險報告》中「高風險情境中的未對齊」部分的外部評估。METR認為，報告所涵蓋模型的災難性未對齊風險偏低，主要原因是模型能力有限，而非防護措施或對齊訓練。METR不確信報告採用的方法能可靠識別更高風險，並指出隱蔽能力測試未能充分衡量模型規避內部監控的能力，近期事件亦削弱了部分論據。METR建議對監控系統進行端到端紅隊測試，並把削弱安全決策列入風險路徑。

AI 根據報道生成 · 3 小時前更新

還沒有足夠的連續觀測數據，暫不繪製趨勢。