AI安全
模型越强大,对齐、安全与治理就越重要。跟进对齐研究、安全评测、风险案例与政策动态,看强大 AI 如何被负责任地构建和使用。
专题介绍
能力越大,失控的代价也越大。AI 安全研究的是如何让强大的系统可靠、可控,并符合人类价值:对齐方法、红队测试、风险评估缺一不可。内容包括研究进展、安全评测、真实风险案例与治理政策,呈现负责任 AI 的完整图景。
ChatGPT 青少年版被评不可接受风险:家长提醒在专项测试中零送达
AI资讯 AI导航 9 次阅读
WordPress 7.1.3 修复 7 个漏洞:其中 3 个由 Anthropic 报告
AI资讯 AI导航 10 次阅读
OpenAI 新研究:o3 内部有多组元博弈信号,强化学习会放大它们
AI资讯 AI导航 13 次阅读
Anthropic 网络核验计划扩围:三档权限向安全团队开放
AI资讯 AI导航 13 次阅读
MCP 服务器曝出同一种 SSRF 漏洞:谷歌、摩根大通等五家机构中招
AI资讯 AI导航 15 次阅读
维基媒体基金会披露 OpenAI 智能体异常活动:未经批准编辑与数百万次请求
AI资讯 AI导航 22 次阅读
Cohere发布North 2企业智能体平台,主打私有部署
AI资讯 AI导航 23 次阅读
Flock 车牌监控被判违宪:无证查询行踪,证据被法院排除
AI资讯 AI导航 6 次阅读