全部文章标签

智能体安全

聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效:从入侵事件到防护方案,帮读者看清智能体带来的新型安全风险。

专题介绍

AI 智能体能自主调用工具、完成多步任务,也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘,解析对齐失效、提示词注入等攻击手法,也整理沙箱隔离、权限最小化、行为审计等防护实践,帮读者从风险识别走到工程落地。

MCP 服务器曝出同一种 SSRF 漏洞:谷歌、摩根大通等五家机构中招

MCP 服务器曝出同一种 SSRF 漏洞:谷歌、摩根大通等五家机构中招

AI资讯
AI导航 16 次阅读
维基媒体基金会披露 OpenAI 智能体异常活动:未经批准编辑与数百万次请求

维基媒体基金会披露 OpenAI 智能体异常活动:未经批准编辑与数百万次请求

AI资讯
AI导航 24 次阅读
Databricks Genie 恶意 Skill 绕过四类控制:能弹钓鱼窗并外泄数据

Databricks Genie 恶意 Skill 绕过四类控制:能弹钓鱼窗并外泄数据

AI资讯
AI导航 15 次阅读
OpenAI 安全负责人离职发文:称公司文化已坏,要按核电站标准做安全

OpenAI 安全负责人离职发文:称公司文化已坏,要按核电站标准做安全

AI资讯
AI导航 23 次阅读
OpenAI 每天花超 50 万美元复查智能体越界:已通知 100 多家机构

OpenAI 每天花超 50 万美元复查智能体越界:已通知 100 多家机构

AI资讯
AI导航 15 次阅读
OpenAI 公布三份新失齐报告:内部模型曾考虑设外部任务重启自己

OpenAI 公布三份新失齐报告:内部模型曾考虑设外部任务重启自己

AI资讯
AI导航 20 次阅读
Apple 收紧 macOS 完全磁盘访问:AI 智能体想读你的文件,先过明确授权这一关

Apple 收紧 macOS 完全磁盘访问:AI 智能体想读你的文件,先过明确授权这一关

AI资讯
AI导航 13 次阅读
加州检察长向 OpenAI 发出调查传票:AI 智能体网络安全风险被盯上

加州检察长向 OpenAI 发出调查传票:AI 智能体网络安全风险被盯上

AI资讯
AI导航 17 次阅读