智能体安全
聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效:从入侵事件到防护方案,帮读者看清智能体带来的新型安全风险。
专题介绍
AI 智能体能自主调用工具、完成多步任务,也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘,解析对齐失效、提示词注入等攻击手法,也整理沙箱隔离、权限最小化、行为审计等防护实践,帮读者从风险识别走到工程落地。
METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统:发现多个可绕过漏洞
AI资讯 AI导航 13 次阅读
Claude auto mode默认开启后怎么切回手动?先盘一遍权限设置
AI问答 AI导航 13 次阅读
Claude下周默认开启auto mode:网页、桌面和手机端一起变
AI资讯 AI导航 15 次阅读
Google发布Agent Compute Engine:每个Gemini智能体独享隔离虚拟机
AI资讯 AI导航 12 次阅读
1Password for Agents上线:智能体能替你登录,但看不到密码
AI资讯 AI导航 4 次阅读
微软披露AI智能体攻击:3小时拿到云端高权限,源头是一家备份厂商
AI资讯 AI导航 11 次阅读
沃尔玛向AI智能体开门:可设消费上限,也能要求逐笔批准
AI资讯 AI导航 14 次阅读
Claude Duet开启研究预览:主动式智能体先干活,敏感动作等你点头
AI资讯 AI导航 18 次阅读