Anthropic 評估多種不誠實模型上的誠實幹預與謊言檢測方法

Anthropic 在五種模型會説謊的測試設定中，比較提升模型誠實度與檢測謊言的方法。通用反欺騙資料微調令平均誠實率由 27% 升至 52%，配合鼓勵誠實的提示後達 65%；謊言檢測 AUROC 則由 0.82 升至 0.88。研究亦指出，測試設定較為刻意設計，結果能否推廣至更複雜的策略性欺騙情境，仍需更多研究。