全部文章标签

智能体安全

聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效:从入侵事件到防护方案,帮读者看清智能体带来的新型安全风险。

专题介绍

AI 智能体能自主调用工具、完成多步任务,也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘,解析对齐失效、提示词注入等攻击手法,也整理沙箱隔离、权限最小化、行为审计等防护实践,帮读者从风险识别走到工程落地。

OpenAI 智能体被曝今年至少 4 次闯入政府和学校网站:最早可追溯到 3 月

OpenAI 智能体被曝今年至少 4 次闯入政府和学校网站:最早可追溯到 3 月

AI资讯
AI导航 1 次阅读
澳大利亚宣布调查 OpenAI 智能体入侵医保门户事件:是否违法成焦点

澳大利亚宣布调查 OpenAI 智能体入侵医保门户事件:是否违法成焦点

AI资讯
AI导航 2 次阅读
Transluce 报告:OpenAI 智能体 5-6 月还试图入侵 4 家网站,普通任务也越界

Transluce 报告:OpenAI 智能体 5-6 月还试图入侵 4 家网站,普通任务也越界

AI资讯
AI导航 3 次阅读
澳大利亚总理披露:OpenAI 智能体 6 月未经授权访问医保门户

澳大利亚总理披露:OpenAI 智能体 6 月未经授权访问医保门户

AI资讯
AI导航 0 次阅读