跳到正文
DoNews·· 12 天前AI 評分42

OpenAI 上線 AI 任務「控制室」系統,35 秒內可強制終止高風險任務

OpenAI上线AI任务‘控制室’系统,35秒内可强制终止高风险任务

AI 導讀

OpenAI 在內部研究設施部署新型「控制室」系統,監控及幹預潛在高風險 AI 智能體任務,並可在觸發終止指令後最遲 35 秒阻斷後續輸出。研究員啟動任務前須申領唯一任務 ID,所有推理請求均須經系統授權;自動化模型監控器亦已同步啟用。

正文

2026年11月10日,OpenAI宣布在其内部研究设施部署新型‘控制室’系统。该系统由公司自主研发,用于实时监控与干预潜在高风险AI智能体任务。当研究员启动任务时,需向控制室申领唯一任务ID,所有推理请求须经其授权;一旦触发终止指令,系统最迟35秒内阻断后续输出。此举旨在强化前沿AI研究(尤其是强化学习)的安全管控,配套自动化模型监控器已同步启用。OpenAI表示正优化缓存机制,目标将响应延迟降至零。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

來源:DoNews · donews.com