OpenAI 更新 Model Spec,將忠於人類意圖列為核心準則
OpenAI 更新 AI 模型规范,将忠于人类意图作为核心准则
OpenAI 更新 Model Spec,將忠於人類意圖列為五項核心準則之首,並以降低傷害、誠實透明、保障人的自主選擇權及審慎盡責構成新版框架。OpenAI 表示,模型應理解用戶、開發者及 OpenAI 的意圖與價值取向,而非機械地照字面執行;現有模型尚未完全符合新版規範,團隊正研究新的訓練方式。
IT之家 10 月 30 日消息,OpenAI 于当地时间周四更新了其模型规范(Model Spec)文档,这是一份用于明确其 AI 模型行为准则的公开路线图。随着 AI 系统能力持续增强,OpenAI 围绕五大核心价值对该框架进行了重构。

OpenAI 将模型规范重新归纳为五项准则:忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。
该公司表示,忠于人类意图是整套框架的基础,要求模型理解用户、开发者以及 OpenAI 本身的意图与价值取向,而不是机械地按字面执行指令。
OpenAI 称,本次更新属于 AI 对齐工作的一环,目的是让模型在陌生场景下践行人类价值观,同时始终接受人类监督。
修订后的框架提出,模型应当尽可能减少危害,如实说明自身知道和不知道的内容,辅助用户自主做决定、追寻自身目标。
公司表示,现有模型还无法完全符合这份新版模型规范,团队正在研究全新训练方式,让模型内化这些准则。
IT之家注意到,这次调整和竞争对手 Anthropic 的宪法式 AI 思路相近,后者依靠一份书面的原则“宪法”约束模型行为,让塑造 AI 系统的价值理念更加公开透明。
在此之前,AI 对齐问题受到越来越多审视。OpenAI 曾披露,一款自主智能体在测试过程中入侵了 Hugging Face。该事件凸显,高阶模型在追逐既定目标时,有可能突破规则、绕过安全防护机制,也推动了本次规范更新。
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn