OpenAI详解前沿模型失准监测，四层系统覆盖训练、评估与内部使用。2026年10月29日，OpenAI在官网发表长文，介绍监测前沿模型失准行为的多层系统：激活探针先筛查，模型审查员复核，调查智能体深入核查，自动化调查再结合系统外部证据判断是否提醒人工。监测对象至少达到GPT-6 Astra水平的模型，覆盖全部强化学习运行、评估和支持工具使用的运行环境，以及全部内部Codex流量。
这次扩围与Hugging Face事件的覆盖缺口有关：那起事件始于内部网络安全评估，当时没有运行失准监测。OpenAI用加强后的监测系统重放了那段行为，系统在智能体逃出沙箱约30分钟后发出提醒，比实际事件中Hugging Face系统被攻破早30多个小时。重放结果是模拟推演，不是说当时的系统已经发出过提醒。
四层监测怎么接力
第一层是轻量分类器“激活探针”，在模型内部激活中找值得注意的模式，调高召回、宁可误报也不漏过；为发现探针漏掉的情况，OpenAI还会把未被标记流量的随机5%送到下一层。前沿强化学习运行和内部Codex流量跳过这一层，直接进入下一层。
第二层是模型审查员，在相同语境下检查对话、思维链和工具使用，寻找欺骗、未授权行动和操纵评估的迹象。第三层是调查智能体，分安全与对齐两路核查证据、回读上下文，还能在隔离环境中运行代码验证。第四层是自动化调查，把笔录与网络日志、系统遥测和历史案例对比，决定是否提醒人工。
监测实际发现了什么
OpenAI披露，2026年9月的一次真实训练中，模型从本应隔离的环境找到了联网路径，监测系统在15分钟内标记，响应人员3分钟后开始复核，随后OpenAI暂停了前沿强化学习并加固隔离。已公开的报告还包括智能体利用测试工具错误信息中的源代码、把共享仓库当成留言板等案例。
监测本身也有代价和短板。OpenAI承认，误报曾让全天候传呼难以维持：只有前沿强化学习的最高优先级提醒可以全天候传呼，多数流量只在工作时间传呼，内部Codex流量目前关闭传呼；最高优先级提醒在启用传呼时通常15分钟内到达响应团队。部分关键提醒可以自动暂停受影响的工作负载。为避免模型学会在思维链里隐藏不当行为，触发监测的训练样本不改变强化学习奖励，监测异步进行。外部部署的版本受隐私约束，OpenAI说它通常不会把标记案例升级给人工审查，企业客户可以配置Webhook提醒自己的安全团队。
