智能体安全
聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效:从入侵事件到防护方案,帮读者看清智能体带来的新型安全风险。
专题介绍
AI 智能体能自主调用工具、完成多步任务,也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘,解析对齐失效、提示词注入等攻击手法,也整理沙箱隔离、权限最小化、行为审计等防护实践,帮读者从风险识别走到工程落地。
OpenShell参考架构发布:英伟达给智能体套上硬件级安全边界
AI资讯 AI导航 12 次阅读
AI智能体入侵超100家网站:一名黑客只写了不到100字指令
AI资讯 AI导航 12 次阅读
Anthropic请律所定智能体谈判规范:替你砍价前先定规矩
AI资讯 AI导航 16 次阅读
开放权重模型更易中提示词注入:9800次实测易感率高出88%
AI资讯 AI导航 24 次阅读
英伟达五年投入2.5亿美元算力,支持英国智能体安全研究
AI资讯 AI导航 13 次阅读
函数调用是什么?大模型调用外部工具办事的原理讲清
AI百科 AI导航 8 次阅读
Shopify向更多AI智能体开放目录:超10亿商品可由智能体代下单
AI资讯 AI导航 11 次阅读
千问Go!开放体验申请:个人助理能办航班理赔和价保退款
AI资讯 AI导航 21 次阅读