AI安全
模型越强大,对齐、安全与治理就越重要。跟进对齐研究、安全评测、风险案例与政策动态,看强大 AI 如何被负责任地构建和使用。
专题介绍
能力越大,失控的代价也越大。AI 安全研究的是如何让强大的系统可靠、可控,并符合人类价值:对齐方法、红队测试、风险评估缺一不可。内容包括研究进展、安全评测、真实风险案例与治理政策,呈现负责任 AI 的完整图景。
OpenAI 回应解雇三名安全研究员:称决定与提安全担忧无关
AI资讯 AI导航 16 次阅读
Anthropic 启动 Cyber Mission:先护关键基础设施,再免费扫开源代码
AI资讯 AI导航 21 次阅读
Arena 完成 2 亿美元 B 轮融资:估值 31 亿美元,还发布了智能体对齐指数
AI资讯 AI导航 21 次阅读
OpenAI 封禁两个虚假掩护行动:假记者在十几家媒体发近百篇长文
AI资讯 AI导航 14 次阅读
Zenity 披露 AgentCorruption:一条提示词接管同账户全部 AgentCore 智能体
AI资讯 AI导航 27 次阅读
State of AI 2026 发布:前沿竞争变成三家实验室的赛跑
AI资讯 AI导航 30 次阅读
CrowdStrike:疑似单人用 AI 渗透工具攻入多家韩国金融机构
AI资讯 AI导航 28 次阅读
SynthID Detector 向所有人开放:任何人上传图片视频音频都能查 AI 隐藏水印
AI资讯 AI导航 24 次阅读