Anthropic:Alignment Science Blog·· 4 天前AI 評分58
人格選擇模型(PSM):AI 助理為何可能表現得像人類
The Persona Selection Model: Why AI Assistants might Behave like Humans
AI 導讀
Anthropic 闡述人格選擇模型(PSM),主張 LLM 預訓練會學習模擬多種角色,後訓練則塑造 Assistant 角色,助理行為很大程度取決於其特質。文章整理行為、泛化與可解釋性方面的相關證據,並討論擬人化推理及在訓練資料中加入正向 AI 原型等發展啟示。作者指出,PSM 是否足以解釋助理行為,以及角色之外是否存在能動性,仍是開放問題。
來源:Anthropic:Alignment Science Blog · alignment.anthropic.com