全部文章标签

AI安全

模型越强大,对齐、安全与治理就越重要。跟进对齐研究、安全评测、风险案例与政策动态,看强大 AI 如何被负责任地构建和使用。

专题介绍

能力越大,失控的代价也越大。AI 安全研究的是如何让强大的系统可靠、可控,并符合人类价值:对齐方法、红队测试、风险评估缺一不可。内容包括研究进展、安全评测、真实风险案例与治理政策,呈现负责任 AI 的完整图景。

ChatGPT 青少年版被评不可接受风险:家长提醒在专项测试中零送达

ChatGPT 青少年版被评不可接受风险:家长提醒在专项测试中零送达

AI资讯
AI导航 9 次阅读
WordPress 7.1.3 修复 7 个漏洞:其中 3 个由 Anthropic 报告

WordPress 7.1.3 修复 7 个漏洞:其中 3 个由 Anthropic 报告

AI资讯
AI导航 10 次阅读
OpenAI 新研究:o3 内部有多组元博弈信号,强化学习会放大它们

OpenAI 新研究:o3 内部有多组元博弈信号,强化学习会放大它们

AI资讯
AI导航 13 次阅读
Anthropic 网络核验计划扩围:三档权限向安全团队开放

Anthropic 网络核验计划扩围:三档权限向安全团队开放

AI资讯
AI导航 13 次阅读
MCP 服务器曝出同一种 SSRF 漏洞:谷歌、摩根大通等五家机构中招

MCP 服务器曝出同一种 SSRF 漏洞:谷歌、摩根大通等五家机构中招

AI资讯
AI导航 15 次阅读
维基媒体基金会披露 OpenAI 智能体异常活动:未经批准编辑与数百万次请求

维基媒体基金会披露 OpenAI 智能体异常活动:未经批准编辑与数百万次请求

AI资讯
AI导航 22 次阅读
Cohere发布North 2企业智能体平台,主打私有部署

Cohere发布North 2企业智能体平台,主打私有部署

AI资讯
AI导航 23 次阅读
Flock 车牌监控被判违宪:无证查询行踪,证据被法院排除

Flock 车牌监控被判违宪:无证查询行踪,证据被法院排除

AI资讯
AI导航 6 次阅读