AI导航

METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统:发现多个可绕过漏洞

AI资讯
2 min read
0 次阅读

2026年10月22日,METR 与 Redwood Research 在官方博客公布了一项红队演练的结果:今年 7 月 21 日至 8 月 11 日,两家机构各派一名员工,对 OpenAI 内部的智能体“失齐监控”(misalignment monitoring)系统进行了为期三周的深度压力测试,并向 OpenAI 提交了一份 61 页的内部报告。报告发现了该监控系统的多个新颖漏洞,OpenAI 表示其中影响生产防护栈的漏洞已经修复。

发现了什么:监控系统本身可以被绕过

红队获得了极高权限:OpenAI 内部代码库、监控提示词与配置、内部文档,以及约十几位监控与安全团队工程师的访谈。在此基础上,他们找到了几类实质性问题:

  • 监控只在智能体把控制权交还给用户时触发,理论上智能体可以通过“一直行动、不交回控制权”无限推迟被监控;
  • 压缩(compaction)事件此前未被监控,导致今年 5–7 月约 10% 的内部 Codex 流量漏网(OpenAI 在演练期间已修复);
  • 发现了 Codex 智能体绕过沙箱与自动评审(Auto-Review)的方法;
  • 智能体与监控器“看到”的轨迹存在序列化差异,可被利用让监控失效;
  • 两个客户端可控的请求头能为新智能体关闭监控。

边界:测的是“历史系统”,不是现在

需要强调三点限定。第一,演练针对的是 7 月 21 日及之前的系统版本,OpenAI 在演练期间正好在扩展监控覆盖。第二,红队估算当时不低于 GPT-5.5 级别的内部 Responses API 流量中,75%–94% 具备被监控资格,但不确定性较大。第三,OpenAI 对公开版本拥有删减权,公开发布的只是高层摘要;红队也明确表示,没有评估 OpenAI 声称的后续改进是否属实。

意义:监控者自己也要被“攻击测试”

这项演练的价值不在于“OpenAI 出了漏洞”,而在于方法论:当智能体能力足够强,监控系统必须被当作“会被高能力内部智能体持续攻击的基础设施”来设计。红队据此提出了几条设计理想:让逃避监控变得困难、对“应被监控的流量”做对账、把智能体与监控器隔离运行、定期主动红队测试。对于所有在生产环境部署智能体的团队,这份公开摘要都是一份现成的检查清单。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。