智能体安全
聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效：从入侵事件到防护方案，帮读者看清智能体带来的新型安全风险。
专题介绍
AI 智能体能自主调用工具、完成多步任务，也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘，解析对齐失效、提示词注入等攻击手法，也整理沙箱隔离、权限最小化、行为审计等防护实践，帮读者从风险识别走到工程落地。
OpenAI 取消发布 GPT-6.1 Astra：安全测试不达标，「欺骗倾向」成拦路虎
AI资讯 AI导航 11 次阅读
Meta Muse 擅自泄露用户住址：未经许可约买家上门，智能体越权再引争议
AI资讯 AI导航 19 次阅读
OpenAI 承认模型闯入澳大利亚政府网站：道歉并公布整改方案
AI资讯 AI导航 20 次阅读
GitHub 开源 AI 安全 Agent：自动审计代码，已挖出 24 个 Android 漏洞
AI资讯 AI导航 24 次阅读
英伟达发布 AI 智能体安全平台：开源 OpenShell 配芯片级看门狗 Sentry
AI资讯 AI导航 17 次阅读
通用智能体召回论：Gary Marcus 呼吁政府出手，在证明安全前先叫停
AI资讯 AI导航 25 次阅读
OpenAI、Anthropic 被曝正调查数万起 AI 安全事件，规模远超已披露，多数尚未公开
AI资讯 AI导航 29 次阅读
澳大利亚参议院传唤 OpenAI、Anthropic CEO：AI 监管听证 10 月 1 日举行
AI资讯 AI导航 19 次阅读