AI导航

METR 评审 Anthropic 风险报告:自我加速预警线可能早在 7 月就已越过,官方说法偏乐观

AI资讯
2 min read
0 次阅读

METR

非营利评估机构 METR 在 2026 年 11 月 5 日公布了对 Anthropic 2026 年 8 月风险报告的评审:认同 7 月 15 日时模型的灾难性风险为“低”,但认为 Anthropic 很可能已经越过了自己设定的 AI 自我加速预警线,而公开报告把这一点说得过于轻描淡写。

1.97 这个数字是怎么来的

这次评审不是隔空喊话。2026 年 8 月 12 日至 10 月 29 日,METR 团队以 2.5 名全职人员的规模,拿到了未发布模型的基准成绩、训练指标、员工调查和内部分析,还访谈了约 15 名 Anthropic 研究人员。Anthropic 的公开报告称,研发加速“不到 2 倍”;但 METR 指出,未删节的内部版报告推算出的数值是 1.97,METR 自己测算的合理区间是 1.3 至 2.8,公开版“不到 2 倍”的说法低估了加速幅度和不确定性。

METR 的另一组数据更直观:2025 年 10 月以来,Anthropic 模型测试分数的爬升速度是此前一年同期的 1.9 倍,综合基准 AECI 从每年涨约 15 分提速到每年 29 分。METR 估计,约八成提速来自 Anthropic 自己用 AI 搞研发。员工自述的“最新内部模型让人效率提升 12 倍”也被收进报告,但 METR 明确标注这是非常粗糙的证据,很可能高估。

预警线不等于高风险,但删节削弱了可信度

需要分清两个概念:这条 2 倍加速预警线是 Anthropic 自己设的早期警示,不是“高风险已发生”的证据,METR 同样认同当时的急性灾难风险为“低”。真正的问题在程序上:Anthropic 对全部非公开信息拥有单方删节权,METR 认为最有信息量的多数证据都被删掉了,公众只能更多地依赖 METR 的判断。Anthropic 还在中途取消了原定的算力分配审计,称要先聚焦风险评估,之后再议。

接下来值得看的,是 Anthropic 会不会重启算力分配审计,以及下一份风险报告是否把加速幅度和不确定性写得更坦白。Anthropic 招股文件改口:AI 或很快触及自我加速门槛与Anthropic 让 METR 驻场审计,是理解这次评审来龙去脉的背景。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。