AI安全
模型越强大,对齐、安全与治理就越重要。跟进对齐研究、安全评测、风险案例与政策动态,看强大 AI 如何被负责任地构建和使用。
专题介绍
能力越大,失控的代价也越大。AI 安全研究的是如何让强大的系统可靠、可控,并符合人类价值:对齐方法、红队测试、风险评估缺一不可。内容包括研究进展、安全评测、真实风险案例与治理政策,呈现负责任 AI 的完整图景。
AI智能体入侵超100家网站:一名黑客只写了不到100字指令
AI资讯 AI导航 11 次阅读
OpenAI前工程师被拒保释:法官认定潜逃风险高,窃听指控待审
AI资讯 AI导航 5 次阅读
DeepSeek必须撤出美国联邦文职系统:国土安全部移除令公开
AI资讯 AI导航 6 次阅读
Anthropic拿出5%股份设公益基金:公司越值钱,公益份额越大
AI资讯 AI导航 8 次阅读
OpenCode通报安全事件:蒸馏攻击影响1.4% Console用户
AI资讯 AI导航 6 次阅读
Anthropic向国会推介AI安全法案:叫停门槛定在10亿美元损失
AI资讯 AI导航 19 次阅读
Claude追溯NIST曲线种子来源:悬了25年,只是一串时间戳随机数
AI资讯 AI导航 11 次阅读
开放权重模型更易中提示词注入:9800次实测易感率高出88%
AI资讯 AI导航 23 次阅读