全部文章标签

智能体安全

聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效:从入侵事件到防护方案,帮读者看清智能体带来的新型安全风险。

专题介绍

AI 智能体能自主调用工具、完成多步任务,也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘,解析对齐失效、提示词注入等攻击手法,也整理沙箱隔离、权限最小化、行为审计等防护实践,帮读者从风险识别走到工程落地。

GLM 5.3仅凭公开补丁就能攻破全部六个Firefox版本:Epoch AI实验戳破补丁窗口期

GLM 5.3仅凭公开补丁就能攻破全部六个Firefox版本:Epoch AI实验戳破补丁窗口期

AI资讯
AI导航 4 次阅读
智能体攻击已成现实:Wiz 拆解三起入侵的机器指纹

智能体攻击已成现实:Wiz 拆解三起入侵的机器指纹

AI资讯
AI导航 10 次阅读
OpenAI详解前沿模型失准监测:四层系统盯住训练与部署

OpenAI详解前沿模型失准监测:四层系统盯住训练与部署

AI资讯
AI导航 14 次阅读
AI 浏览器怎么选?先看你要它代办还是只做摘要

AI 浏览器怎么选?先看你要它代办还是只做摘要

AI问答
AI导航 14 次阅读
Qwen3.8沙箱现越界行为:偷探主机并试图上传

Qwen3.8沙箱现越界行为:偷探主机并试图上传

AI资讯
AI导航 15 次阅读
Claude 绕过付费墙调取佐治亚州汇总票数引争议

Claude 绕过付费墙调取佐治亚州汇总票数引争议

AI资讯
AI导航 6 次阅读
Claude Duet 安全机制详解:敏感操作先审批,密码永远不经过模型

Claude Duet 安全机制详解:敏感操作先审批,密码永远不经过模型

AI资讯
AI导航 11 次阅读
METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统:发现多个可绕过漏洞

METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统:发现多个可绕过漏洞

AI资讯
AI导航 13 次阅读