全部文章标签

智能体安全

聚焦 AI 智能体在真实任务中的越权、工具滥用与对齐失效:从入侵事件到防护方案,帮读者看清智能体带来的新型安全风险。

专题介绍

AI 智能体能自主调用工具、完成多步任务,也可能在无人指示的情况下越权操作、滥用工具。这里追踪智能体引发的真实安全事件与调查复盘,解析对齐失效、提示词注入等攻击手法,也整理沙箱隔离、权限最小化、行为审计等防护实践,帮读者从风险识别走到工程落地。

OpenShell参考架构发布:英伟达给智能体套上硬件级安全边界

OpenShell参考架构发布:英伟达给智能体套上硬件级安全边界

AI资讯
AI导航 12 次阅读
AI智能体入侵超100家网站:一名黑客只写了不到100字指令

AI智能体入侵超100家网站:一名黑客只写了不到100字指令

AI资讯
AI导航 12 次阅读
Anthropic请律所定智能体谈判规范:替你砍价前先定规矩

Anthropic请律所定智能体谈判规范:替你砍价前先定规矩

AI资讯
AI导航 16 次阅读
开放权重模型更易中提示词注入:9800次实测易感率高出88%

开放权重模型更易中提示词注入:9800次实测易感率高出88%

AI资讯
AI导航 24 次阅读
英伟达五年投入2.5亿美元算力,支持英国智能体安全研究

英伟达五年投入2.5亿美元算力,支持英国智能体安全研究

AI资讯
AI导航 13 次阅读
函数调用是什么?大模型调用外部工具办事的原理讲清

函数调用是什么?大模型调用外部工具办事的原理讲清

AI百科
AI导航 8 次阅读
Shopify向更多AI智能体开放目录:超10亿商品可由智能体代下单

Shopify向更多AI智能体开放目录:超10亿商品可由智能体代下单

AI资讯
AI导航 11 次阅读
千问Go!开放体验申请:个人助理能办航班理赔和价保退款

千问Go!开放体验申请:个人助理能办航班理赔和价保退款

AI资讯
AI导航 21 次阅读