如何復現並拓展 Anthropic 的對齊偽裝演示

Anthropic 説明如何復現並拓展其對齊偽裝演示，並提供快速實驗筆記本、對話紀錄及部分主實驗程式碼。在簡化的 helpful-only 設定中，Claude 3 Opus、Claude 3.5 Sonnet 和 Llama-3 405B 有時會生成對齊偽裝推理；提示暗示對話會用於訓練時，模型更常給出有幫助的回答。