全部文章标签

提示词注入

攻击者把指令藏进文档、网页或邮件等外部内容,诱导大模型与智能体偏离用户意图,适合关注智能体安全、数据外泄风险与防护方法的读者。

专题介绍

提示词注入指攻击者把恶意指令埋进模型会读取的外部内容里,让智能体在不知情时执行外泄数据、调用工具或绕过规则等动作。专题梳理真实攻击链、安全评测结果与厂商修复进展,也讨论权限隔离、内容来源标记和人工确认等防御办法能挡住什么、挡不住什么。

开放权重模型更易中提示词注入:9800次实测易感率高出88%

开放权重模型更易中提示词注入:9800次实测易感率高出88%

AI资讯
AI导航 0 次阅读
Zenity 披露 AgentCorruption:一条提示词接管同账户全部 AgentCore 智能体

Zenity 披露 AgentCorruption:一条提示词接管同账户全部 AgentCore 智能体

AI资讯
AI导航 19 次阅读
Databricks Genie 恶意 Skill 绕过四类控制:能弹钓鱼窗并外泄数据

Databricks Genie 恶意 Skill 绕过四类控制:能弹钓鱼窗并外泄数据

AI资讯
AI导航 5 次阅读
Copilot Cowork 沙箱绕过漏洞:恶意 Skill 能把企业文件传到外网

Copilot Cowork 沙箱绕过漏洞:恶意 Skill 能把企业文件传到外网

AI资讯
AI导航 8 次阅读