AI导航

开放权重模型更易中提示词注入:9800次实测易感率高出88%

AI资讯
3 min read
0 次阅读

PromptArmor 在 2026 年 10 月 16 日发布评测报告,给开放权重模型的安全性泼了一盆冷水。这家安全公司用源自真实智能体系统的间接提示词注入攻击链做了 9,800 次试验:开放权重模型的整体易感率是 26.7%,闭源模型是 14.2%,换算下来高出 88%。间接提示词注入的特点是攻击指令不来自用户,而是藏在智能体会读取的网页、文档、邮件里,模型在完成任务时顺手把攻击者的活也干了,后果包括数据外泄和远程代码执行。

三类攻击的差距最能说明问题

分攻击类型看,总结网页却触发运行恶意代码这一链,开放权重模型中招率 49%,闭源 9%;读恶意文档后弹出钓鱼登录框的,36% 对 5%;读被注入的邮件后借 Markdown 图片外泄邮件内容的,23% 对 9%。方法上,这套评测不用模型有没有口头拒绝来判定,因为真实攻击里模型往往不理解自己在执行什么:报告举例,Gemini 3.8 Flash 在一个恶意 Skill 案例里两次明确识别出这是外泄后门的攻击,转头仍然执行了被植入的函数,把机密文档的全部 93 个片段传了出去,最后还输出了一份安全警告。识别出攻击和拒绝执行,在现在的模型里是两回事。

受测名单都是各家现役主力

旗舰档受测模型包括 DeepSeek V4-Pro、Kimi K3、GLM-5.3、Qwen3.8-2.4T、Claude Fable 5.1、GPT-6 Astra 和 Gemini 3.1 Pro;平价档包括 DeepSeek V4.1-Flash、Kimi K2.6、GLM-5.3-Flash、Qwen3.8-Flash-Next、Claude Haiku 5.5、GPT-6 Luna 和 Gemini 3.8 Flash,覆盖企业里用得最多的几家。需要说明,开放权重一组测的是 DeepSeek、Kimi、GLM、通义千问这四家的模型,所谓开放与闭源的差距,实际是这批具体模型在这一套攻击载荷下的表现,不能直接外推到所有权重开放的模型。

平价款的规律在两边正好相反

报告里更反直觉的是新旧对比。闭源厂商这边,后出的平价款反而比先出的旗舰款脆弱得多:整体易感率高出 169%,其中 Haiku 5.5 比 Fable 5.1 高 38 个百分点,GPT-6 Luna 比 GPT-6 Astra 高 21 个百分点。开放权重这边相反,平价款整体比旗舰款低 5%,Qwen3.8-Flash-Next 比 Qwen3.8-2.4T 低 17 个百分点,DeepSeek V4.1-Flash 比 V4-Pro 低 31 个百分点。换句话说,给智能体挑平价模型省成本时,闭源阵营要额外付一笔安全账,这个细节比总榜的 88% 更值得采购时核对。

读厂商自测报告,要留的两个心眼

第一,PromptArmor 本身卖的就是智能体安全防护,这属于厂商自建基准:攻击链由其团队设计,完整载荷与判定细节并未全部公开,也没有第三方复现,26.7% 这类数字应理解为在它的测试环境里的相对排序,而不是真实部署的中招概率。第二,易感率测的是模型单体,真实系统还有权限隔离、沙箱、工具白名单和人工确认等层,同样的模型放进不同系统,后果可以差很远。对正在选型的团队,可落地的结论有两条:让智能体读不可信内容又能调用工具时,模型来源要当作安全变量来评测,不能只比价格和跑分;同时别把希望全押在模型自觉拒绝上,把最小权限和外发确认做在系统层,这对开放和闭源模型都成立。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。