AI安全
模型越强大，对齐、安全与治理就越重要。跟进对齐研究、安全评测、风险案例与政策动态，看强大 AI 如何被负责任地构建和使用。
专题介绍
能力越大，失控的代价也越大。AI 安全研究的是如何让强大的系统可靠、可控，并符合人类价值：对齐方法、红队测试、风险评估缺一不可。内容包括研究进展、安全评测、真实风险案例与治理政策，呈现负责任 AI 的完整图景。
OpenAI会议室发现录音装置：涉事员工被捕，最高面临5年监禁
AI资讯 AI导航 9 次阅读
XBOW用GPT-5.6 Sol链出Chrome全链漏洞：6天拿下25万美元赏金
AI资讯 AI导航 15 次阅读
Character.AI申请破产保护：成立五年走到出售，迪士尼2000万美元接走部分资产
AI资讯 AI导航 16 次阅读
Anthropic防蒸馏新防护上线：Claude推理数据被窃取量降90%至99%
AI资讯 AI导航 18 次阅读
纳德拉提出AI信任架构：把模型当内部风险，留好紧急刹车
AI资讯 AI导航 17 次阅读
Anthropic 公布四类非预期行为：内部评测已切断实时联网
AI资讯 AI导航 23 次阅读
Anthropic 模型误报凶杀线索：测试提交进了费城警方网站
AI资讯 AI导航 9 次阅读
Anthropic 更新 Claude 使用政策：持续无端辱骂模型将被禁止
AI资讯 AI导航 12 次阅读