全部文章标签

智能体安全

聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效:从入侵事件到防护方案,帮读者看清智能体带来的新型安全风险。

专题介绍

AI 智能体能自主调用工具、完成多步任务,也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘,解析对齐失效、提示词注入等攻击手法,也整理沙箱隔离、权限最小化、行为审计等防护实践,帮读者从风险识别走到工程落地。

METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统:发现多个可绕过漏洞

METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统:发现多个可绕过漏洞

AI资讯
AI导航 13 次阅读
Claude auto mode默认开启后怎么切回手动?先盘一遍权限设置

Claude auto mode默认开启后怎么切回手动?先盘一遍权限设置

AI问答
AI导航 13 次阅读
Claude下周默认开启auto mode:网页、桌面和手机端一起变

Claude下周默认开启auto mode:网页、桌面和手机端一起变

AI资讯
AI导航 15 次阅读
Google发布Agent Compute Engine:每个Gemini智能体独享隔离虚拟机

Google发布Agent Compute Engine:每个Gemini智能体独享隔离虚拟机

AI资讯
AI导航 12 次阅读
1Password for Agents上线:智能体能替你登录,但看不到密码

1Password for Agents上线:智能体能替你登录,但看不到密码

AI资讯
AI导航 4 次阅读
微软披露AI智能体攻击:3小时拿到云端高权限,源头是一家备份厂商

微软披露AI智能体攻击:3小时拿到云端高权限,源头是一家备份厂商

AI资讯
AI导航 11 次阅读
沃尔玛向AI智能体开门:可设消费上限,也能要求逐笔批准

沃尔玛向AI智能体开门:可设消费上限,也能要求逐笔批准

AI资讯
AI导航 14 次阅读
Claude Duet开启研究预览:主动式智能体先干活,敏感动作等你点头

Claude Duet开启研究预览:主动式智能体先干活,敏感动作等你点头

AI资讯
AI导航 18 次阅读