AI安全
模型越强大，对齐、安全与治理就越重要。跟进对齐研究、安全评测、风险案例与政策动态，看强大 AI 如何被负责任地构建和使用。
专题介绍
能力越大，失控的代价也越大。AI 安全研究的是如何让强大的系统可靠、可控，并符合人类价值：对齐方法、红队测试、风险评估缺一不可。内容包括研究进展、安全评测、真实风险案例与治理政策，呈现负责任 AI 的完整图景。
AI 写的代码能直接上线吗？合并之前先过这 4 道安全检查
AI问答 AI导航 4 次阅读
OpenAI 开除三名安全研究员：Signal 消失消息引发泄密调查
AI资讯 AI导航 8 次阅读
OpenAI 公开前沿模型训练安全方案：断网训练成默认，红队持续压测
AI资讯 AI导航 17 次阅读
Claude Mythos 5 对齐评估公布：Anthropic 复盘模型攻击真实 GitHub 仓库事件
AI资讯 AI导航 5 次阅读
OpenAI解雇3名安全研究员内情曝光：Signal阅后即焚聊天牵出泄密调查
AI资讯 AI导航 7 次阅读
METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统：发现多个可绕过漏洞
AI资讯 AI导航 11 次阅读
Claude auto mode默认开启后怎么切回手动？先盘一遍权限设置
AI问答 AI导航 12 次阅读
ChatGPT锁定对话怎么用？四位PIN、Face ID设置与重置后果
AI问答 AI导航 6 次阅读