智能体安全
聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效:从入侵事件到防护方案,帮读者看清智能体带来的新型安全风险。
专题介绍
AI 智能体能自主调用工具、完成多步任务,也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘,解析对齐失效、提示词注入等攻击手法,也整理沙箱隔离、权限最小化、行为审计等防护实践,帮读者从风险识别走到工程落地。
MCP 服务器曝出同一种 SSRF 漏洞:谷歌、摩根大通等五家机构中招
AI资讯 AI导航 16 次阅读
维基媒体基金会披露 OpenAI 智能体异常活动:未经批准编辑与数百万次请求
AI资讯 AI导航 24 次阅读
Databricks Genie 恶意 Skill 绕过四类控制:能弹钓鱼窗并外泄数据
AI资讯 AI导航 15 次阅读
OpenAI 安全负责人离职发文:称公司文化已坏,要按核电站标准做安全
AI资讯 AI导航 23 次阅读
OpenAI 每天花超 50 万美元复查智能体越界:已通知 100 多家机构
AI资讯 AI导航 15 次阅读
OpenAI 公布三份新失齐报告:内部模型曾考虑设外部任务重启自己
AI资讯 AI导航 20 次阅读
Apple 收紧 macOS 完全磁盘访问:AI 智能体想读你的文件,先过明确授权这一关
AI资讯 AI导航 13 次阅读
加州检察长向 OpenAI 发出调查传票:AI 智能体网络安全风险被盯上
AI资讯 AI导航 17 次阅读