提示词注入
攻击者把指令藏进文档、网页或邮件等外部内容,诱导大模型与智能体偏离用户意图,适合关注智能体安全、数据外泄风险与防护方法的读者。
专题介绍
提示词注入指攻击者把恶意指令埋进模型会读取的外部内容里,让智能体在不知情时执行外泄数据、调用工具或绕过规则等动作。专题梳理真实攻击链、安全评测结果与厂商修复进展,也讨论权限隔离、内容来源标记和人工确认等防御办法能挡住什么、挡不住什么。
攻击者把指令藏进文档、网页或邮件等外部内容,诱导大模型与智能体偏离用户意图,适合关注智能体安全、数据外泄风险与防护方法的读者。
提示词注入指攻击者把恶意指令埋进模型会读取的外部内容里,让智能体在不知情时执行外泄数据、调用工具或绕过规则等动作。专题梳理真实攻击链、安全评测结果与厂商修复进展,也讨论权限隔离、内容来源标记和人工确认等防御办法能挡住什么、挡不住什么。