AI导航

Anthropic让METR驻场审计:六人拿到员工级权限

AI资讯
2 min read
1 次阅读

Anthropic 在 2026 年 10 月 15 日通过官方博客宣布,已开始给非营利评估机构 METR 的一个团队提供员工级权限,让外部评估者带着公司配发的硬件、坐在公司办公室里,独立检查它的模型、安全实践和风险管理,并自行发布评估结论。上个月 Anthropic 刚承诺强化独立第三方评估,还签署了要求与独立审计或评估方合作的白宫超级智能协议,这次公布的是承诺落地的具体形态:不是送一份模型接口让外人测,而是把人请进门。

员工级权限的清单和禁区

具体安排是,METR 有 6 名成员完成入职式接入,使用 Anthropic 配发的硬件和办公空间,能接触的内部工具与系统大致与公司自家风险评估团队相当;除少数明确划定的类别外,员工被鼓励像对待做对齐风险的同事一样与他们分享信息。禁区同样写得很清楚:客户数据、受律师—当事人特权保护的信息,以及模型架构相关信息不在开放范围内。参与的 METR 小组在可执行的协议下工作,与 METR 内部其他成员隔离,包括那些和 Anthropic 有其他合作项目的研究人员——驻场看得深,但看到的内容不能在机构内部自由流动。

报告能不能发,决定权不在被审方手里

这套安排最关键的一条是发表权。METR 将发布它对 Anthropic 风险水平、事件和做法的分析,Anthropic 无权否决发表,只能要求对落入预先划定的狭窄类别的信息做删改;而且 METR 可以公开评价这些删改是否合理,只要不泄露被删内容本身。这解决了外部评估长期以来的一个尴尬:评估者看到多少、能说多少都由被评估的公司决定,报告的公信力先天打折。Anthropic 把做法类比为银行监管中派驻大型银行的常驻检查员——银行比外界更懂自己的风险敞口,所以检查要发生在内部。这个类比不完全等同于监管:驻场评估仍是公司自愿引入的,评估者由公司选定,这层边界在读后续报告时要记住。

三档权限里,METR 这一档目前独一份

Anthropic 同时公布了评估者权限的三档设计:第一档做范围狭窄的风险调查,权限由公司决定,发表需公司批准;第二档可以不经批准发表、能接触更多信息,公司仍可要求删改特定类别内容;第三档就是 METR 的员工级安排。其他合作目前都还在更早的阶段,权限和发表权更有限:生物安全机构 SecureBio 在试点评审后,正在评审其 8 月风险报告中化学与生物武器相关章节;Accenture 与 Faculty 的合作朝着模型评估、红队测试和防护测试推进,早期先验证保密能力和评估资源。Anthropic 表示希望随着信任建立,把更多评估者推进到第三档,并呼吁每家前沿 AI 公司都自愿引入驻场评估者。下一步值得看的是 METR 的第一份驻场评估何时发布、删改争议会不会真的被公开写出来——那将是这套机制成色的第一次实测。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。