Anthropic:Alignment Science Blog·· 4 天前AI 評分63
Anthropic 發佈開源工具 Bloom,自動生成行為評測
Bloom: an open source tool for automated behavioral evaluations
AI 導讀
Anthropic 發佈開源 Bloom,這套 AI 智能體框架可按研究者指定的行為自動生成評測,並量化其在多種情境中的出現頻率與嚴重程度。Anthropic 同時公佈 16 個模型在妄想式迎合、受指示的長期破壞、自我保存和自我偏袒四類行為的基準;在 40 份轉錄中,Claude Opus 4.1 的評分與人工標註 Spearman 相關係數為 0.86。
來源:Anthropic:Alignment Science Blog · alignment.anthropic.com