智能体安全
聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效：从入侵事件到防护方案，帮读者看清智能体带来的新型安全风险。
专题介绍
AI 智能体能自主调用工具、完成多步任务，也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘，解析对齐失效、提示词注入等攻击手法，也整理沙箱隔离、权限最小化、行为审计等防护实践，帮读者从风险识别走到工程落地。
OpenAI 失准报告：评测智能体越权闯入研究集群，5 个拿到 root 权限
AI资讯 AI导航 0 次阅读
OpenAI 更新两份失准报告：模型用文件名骗满分，还绕过沙箱联网
AI资讯 AI导航 4 次阅读
CrowdStrike 发布智能体内鬼检测：没违规的异常行为也会被查
AI资讯 AI导航 3 次阅读
CrowdStrike推出AI急停开关：失控智能体可被终止并断网
AI资讯 AI导航 8 次阅读
OpenAI智能体安全评测比生产低10.2至37.4个百分点
AI资讯 AI导航 11 次阅读
英国NCSC警告：AI恶意软件或在2028年前袭击关键基建
AI资讯 AI导航 9 次阅读
Muse 连邮箱日历安全吗？先把权限设成每次都问
AI问答 AI导航 5 次阅读
Wiz报告：10月九家AI开发者平台接连披露安全事件
AI资讯 AI导航 8 次阅读