跳到正文
原文
Anthropic:Alignment Science Blog·· 4 天前AI 評分58

人格選擇模型(PSM):AI 助理為何可能表現得像人類

The Persona Selection Model: Why AI Assistants might Behave like Humans

AI 導讀

Anthropic 闡述人格選擇模型(PSM),主張 LLM 預訓練會學習模擬多種角色,後訓練則塑造 Assistant 角色,助理行為很大程度取決於其特質。文章整理行為、泛化與可解釋性方面的相關證據,並討論擬人化推理及在訓練資料中加入正向 AI 原型等發展啟示。作者指出,PSM 是否足以解釋助理行為,以及角色之外是否存在能動性,仍是開放問題。

來源:Anthropic:Alignment Science Blog · alignment.anthropic.com