AI导航

Mercury 3扩散模型发布:每秒1068个token,速度快4到8倍

AI资讯
2 min read
0 次阅读

Mercury 3 把扩散式大语言模型的生成速度推到了每秒 1068 个 token。2026 年 10 月 19 日,Inception Labs 在官方博客发布这款模型,称其在一系列基准上达到或超过 GPT-6 Luna 和 Claude Haiku 5.5,运行速度快 4 到 8 倍,上下文从上一代 Mercury 2.5 的 26 万 token 提升到 100 万 token。它的参数规模比第一代 Mercury 大 40 倍以上,官方据此给出的判断是:扩散路线同样遵循规模定律,可以放大到与自回归模型正面竞争。

它和常见的逐字生成有什么不同

主流大模型是自回归生成:一个 token 一个 token 往后接,每一步都要等上一步。扩散式模型走另一条路,先生成一团粗略的文本,再并行地多轮修正成型,天然适合并行计算,速度优势正是从这里来的。代价是这条路线过去一直被质疑“放不大、做不了复杂任务”,Mercury 3 用 40 倍以上的参数扩张和官方公布的基准成绩回应这个疑问。需要注意,这些成绩目前主要来自 Inception 自家和早期合作伙伴的测试,还没有经过大规模独立复测,选型时应拿自己的真实任务再跑一轮。

价格、接入和已经跑起来的场景

Mercury 3 定价为每百万 token 输入 0.20 美元、输出 0.70 美元,上线期五折,缓存 token 再享一折输入价;它兼容 OpenAI 的 API 格式,可通过 Inception 自家平台以及 OpenRouter、Baseten、Vercel 接入,官方提供 1 亿免费 token 供试用。早期合作方给出的场景都卡在“等不起”上:网页导航智能体在 50 个真实 Mind2Web 任务中完成了一半,官方称明显高于同场对比的前沿模型;在线教育产品把批改和提示反馈压到约 1 秒;智能眼镜上的搜索问答中位生成时间 0.9 秒、端到端 2.2 秒;客服场景则同时要快和准。Inception 同时还推出了面向语音极低延迟的 Mercury Voice 和面向高并发分类的 Mercury Decide。

谁该试,谁先观望

如果你的产品是语音对话、实时客服、网页操作智能体这类每慢一秒体验就掉一截的场景,Mercury 3 值得立刻用免费额度做对照测试,重点测自己任务上的准确率而不是只看速度。如果任务是长文档深度推理或对错误零容忍的合规输出,先等独立评测和更多生产反馈出来再迁移主力流量。扩散路线这次拿出的不只是速度数字,还有“能放大”的证据,后续要看的是它在复杂推理基准上能否站稳。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。