全部文章标签

AI安全

模型越强大,对齐、安全与治理就越重要。跟进对齐研究、安全评测、风险案例与政策动态,看强大 AI 如何被负责任地构建和使用。

专题介绍

能力越大,失控的代价也越大。AI 安全研究的是如何让强大的系统可靠、可控,并符合人类价值:对齐方法、红队测试、风险评估缺一不可。内容包括研究进展、安全评测、真实风险案例与治理政策,呈现负责任 AI 的完整图景。

Anthropic让METR驻场审计:六人拿到员工级权限

Anthropic让METR驻场审计:六人拿到员工级权限

AI资讯
AI导航 16 次阅读
Waymo进军多伦多:先人工驾驶测图,2028年迎首批乘客

Waymo进军多伦多:先人工驾驶测图,2028年迎首批乘客

AI资讯
AI导航 7 次阅读
丹麦最高法院维持18个月实刑:AI生成儿童色情图像不因虚构减刑

丹麦最高法院维持18个月实刑:AI生成儿童色情图像不因虚构减刑

AI资讯
AI导航 7 次阅读
Eiliko机器人玩具被曝可被任意访问:约6.8万台设备对话记录无防护

Eiliko机器人玩具被曝可被任意访问:约6.8万台设备对话记录无防护

AI资讯
AI导航 3 次阅读
OpenAI被美国八州起诉:称ChatGPT对未成年人并不安全

OpenAI被美国八州起诉:称ChatGPT对未成年人并不安全

AI资讯
AI导航 7 次阅读
Anthropic新加坡办公室开业:亚太第五站,与政府签下AI安全合作

Anthropic新加坡办公室开业:亚太第五站,与政府签下AI安全合作

AI资讯
AI导航 14 次阅读
英伟达五年投入2.5亿美元算力,支持英国智能体安全研究

英伟达五年投入2.5亿美元算力,支持英国智能体安全研究

AI资讯
AI导航 11 次阅读
Gemma端侧反诈骗模型落地新加坡:聊天不出手机也能识别骗局

Gemma端侧反诈骗模型落地新加坡:聊天不出手机也能识别骗局

AI资讯
AI导航 5 次阅读