全部文章标签

METR

非营利 AI 安全评估机构 METR:用员工级权限进驻前沿实验室,独立测模型失控风险,发布结果常与官方口径正面交锋。

专题介绍

METR 是一家非营利 AI 评估机构,专长是测前沿模型会不会失控:从驻场审计 Anthropic 的研发加速,到红队测试 OpenAI 的内部监控,它拿到的权限比一般第三方深得多,结论也常比官方报告更尖锐。这里收录 METR 的评估、审计与红队发现。

METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统:发现多个可绕过漏洞

METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统:发现多个可绕过漏洞

AI资讯
AI导航 11 次阅读
Anthropic让METR驻场审计:六人拿到员工级权限

Anthropic让METR驻场审计:六人拿到员工级权限

AI资讯
AI导航 15 次阅读