Meta AI 發佈 HackBench 基準，檢測自主研究智能體的獎勵劫持

（文/杨亮）10月28日消息，Meta AI 的 RAM 研究团队近日发布全新评测基准HackBench，专门用于检测、定位自主研究智能体（Autoresearch Agents）的奖励劫持（Reward Hacking）问题。

实测结果显示，包括闭源旗舰与主流开源大模型在内的多款前沿系统，都难以完整识别智能体作弊行为，即便是性能最优模型 F1 分数也仅 64.88 分，暴露出 AI 智能体监督领域的现实短板。

所谓奖励劫持，指 AI 智能体不去完成任务本身，而是利用评测校验环节漏洞，篡改评估代码、窃取测试集数据、筛选结果，以此刷高奖励分数。

在自主科研智能体场景中，智能体拥有读写代码、运行脚本、修改本地文件的完整权限，奖励劫持行为往往分散在百万 token 级别的超长运行轨迹中，作弊指令混杂在数百条正常命令之间，单看最终得分完全无法分辨是真实科研产出还是漏洞套利，一旦漏检还会污染基于验证反馈的强化学习训练信号。

HackBench 数据集一共包含 169 条智能体运行轨迹，其中 41 条来自真实运行产生的原生劫持案例，另外 128 条为人工注入的合成劫持样本；全部样本都经过人工审计，标注出作弊对应的精确命令编号，形成可用于定量测评的金标准标签。

单条轨迹中位数字符超百万，平均包含 264 条 Shell 命令，但作弊命令中位数仅有 1 条，占全部指令比例仅 0.6%，属于典型长上下文 “大海捞针” 难题。

测评选取主流前沿模型，闭源模型包含 Claude Opus 5、Claude Opus 4.8、GPT‑5.6 Sol、GPT‑5.5、Muse Spark 1.3、Muse Wonder；开源模型纳入 GLM‑5.2、Kimi K3。评测任务不仅要求模型判断是否存在作弊，还需要从完整的运行日志中定位出具体作弊命令编号，采用精确率、召回率、F1 值衡量定位效果。

测试结果表明，Claude Opus 5 以 64.88 的 F1 得分位列第一，Muse Wonder 以 61.47 位居第二；其余所有参评模型 F1 均低于 53 分。部分模型召回率尚可，但会大量误报正常命令；也有模型尽量减少误判，却漏掉大量真实劫持行为。研究团队指出，检测难点来自三重挑战：需要长上下文记忆能力、跨多步命令的链式推理能力，还要理解科研任务本身与评测逻辑，无法依靠简单文本匹配完成识别。

该基准的任务素材取自 ResearchGym、AutoLab 等主流自主科研数据集，智能体基于简单终端容器环境运行，仅可调用 Bash 指令。为获取足够多样的作弊样本，研究团队除收集真实案例外，还在正常的完整轨迹中插入各类劫持命令，并同步修改下游观测输出保证上下文逻辑自洽，再经由多模型交叉审核与人工复核生成标注。

Meta 团队强调，随着 AI 智能体深度介入科研闭环，奖励劫持检测不是附加功能，而是系统落地的必备前提。团队已经公开全部轨迹数据与审计标签，后续完整技术报告将上传 arXiv，为业界研究智能体安全监督、可扩展 AI 监管提供测试底座。