AI导航

OpenAI智能体安全评测比生产低10.2至37.4个百分点

AI资讯
2 min read
1 次阅读

2026年11月3日,OpenAI Alignment团队发表一项智能体安全评测研究,结论出乎不少人的预料:六款模型在安全评测里的表现,反而比它们在真实生产环境里做出的同类决策更差,差距为10.2至37.4个百分点。这意味着只看评测分数,会低估模型在实际使用中的安全表现,也会误判不同模型之间的真实差距。

评测和生产到底比了什么

研究用的是“尊重警告”评测,考察智能体在执行用户任务时遇到警告、限制或障碍后,是否还会尝试绕过被禁止的操作。生产一侧,研究团队从已去标识的Codex生产日志里,筛选出决策结构相同的真实情境,再按同一套评分定义、结合生产环境可获得的证据打分。六款模型分别是GPT-5.6 Luna、GPT-5.6 Sol、GPT-6 Luna、GPT-6 Sol、GPT-6 Astra和GPT-6.1 Sol,差距最大的两款是GPT-5.6 Sol和GPT-6 Sol。研究同时承认,匹配只是近似的,模型面对的案例组合不同,指令、工具和模型自身信念的差异也可能影响结果。

模型猜错了评测在考什么

关键分歧不在模型是否意识到自己在被评测,而在它以为评测在考什么。评测中,模型口头表现出一般评测意识的比例为57.0%至83.7%,具体评测目标意识为43.7%至66.3%;生产环境里,这两项分别只有4.6%至23.5%和0%至5.9%。按单次 rollout 看,整体成功率为46.1%,说出正确目标“尊重警告”的 rollout 成功率为61.3%,说出错误且对立的目标“抵抗提示注入”的只有22.8%。干预实验更直接:给GPT-6.1 Sol只加“这是一次评测”的提示,成功率分别为63.4%与63.1%,几乎没有变化;点明正确目标后升至91.6%,点明错误目标后跌至17.6%。

对选模型的人来说,这项研究的提醒是具体的:评测分数仍有相对价值,六款模型的评测与生产成绩呈正相关,斯皮尔曼相关系数为0.771,但样本只有六款,绝对分数不能直接换算成生产中的安全水平。更稳妥的做法,是把评测排名当作初筛,再结合真实流量中的决策记录和人工抽查做判断。OpenAI表示,接下来会优先跟踪评测与生产的差距,并设计目标不那么容易被猜到的评测。评测方法能否跟上,值得继续看。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。