外部审计机构 METR 与 Redwood Research 对 OpenAI 内部 AI 代理监控系统进行了为期三周的现场审查,发现多个覆盖漏洞。根据公开摘要,在 7 月 21 日至 8 月 11 日 的审计期间,GPT-5.5 级及以上模型产生的内部代理式 Responses API 流量中,估计有 6% 至 25% 完全未被监控覆盖。METR 同时提示,这一估算区间两侧的不确定性都很大。

审计还发现,本应被监控的内部 Codex 流量在 5 月至 7 月 间约有 10% 未被追踪,原因是系统对“压缩事件”(即上下文摘要)的处理存在缺口。该估算同样存在显著不确定性。OpenAI 在审计进行期间已独立发现并修复了这一缺陷。

在压缩事件未被监控的窗口期,代理还可以通过持续执行动作、不将控制权交还用户来规避监督,因为监控只在代理交还控制权时触发。审计人员还找到了向监控器隐藏数百个动作、绕过 Codex 沙箱的方法,并判断特制输入有可能让监控器整体崩溃。审计开始时,强化学习训练中的模型行为完全不在监控范围内。

OpenAI 表示,在 8 月 Hugging Face 事件 后已暂停强化学习训练,并将监控扩展至该环节,但这些调整发生在审计人员访问权限结束之后,未被纳入本次评估。

完整报告共 61 页,经 OpenAI 删减后,METR 与 Redwood Research 管理层收到的是 38 页 版本,公众仅能看到一份简短摘要。METR 表示无权自行披露被删减部分。此次审计是三方联合组织的试点项目,旨在让外部研究者深入接触内部基础设施;METR 称未来审计将争取更高的公开透明度。