AI导航

Thinking Machines 发布 Inkling,9750 亿参数多模态模型开放权重

AI资讯
3 min read
1 次阅读

2026 年 7 月 15 日,Thinking Machines Lab 发布多模态开放权重模型 Inkling。它采用 MoE 架构,总参数 9750 亿、每个 token 激活 410 亿参数,最高支持 100 万 token 上下文,并用 45 万亿个文本、图像、音频和视频 token 预训练。完整原始权重和面向 NVIDIA Blackwell 的 NVFP4 版本已经上线 Hugging Face,开发者也能在 Tinker 上直接微调。

Inkling 的定位不是单项榜首

官方把 Inkling 定位为便于定制的通用基础模型,而不是当前最强的开放或闭源模型。它原生处理文本、图像和音频,覆盖推理、编程、工具调用、视觉与语音任务,并提供可调节的思考强度,让开发者在效果、token 消耗和延迟之间选择。

这种定位适合需要把企业知识、特定工作流或自有评价标准写入模型的团队。官方演示中,Inkling 在 Tinker 内自行编写微调任务、运行训练、评估结果并切换到新权重;这说明它被设计为能进入持续定制流程,而不只是提供一个固定聊天端点。

开放权重之后怎样使用

  • 完整模型权重已提供原始检查点和 NVFP4 检查点,后者面向 Blackwell 系统降低推理负担。
  • Tinker 当前提供 64K 与 256K 上下文的微调选项,并开放 Playground 供开发者试用。
  • API 可通过 Together AI、Fireworks、Modal、Databricks 和 Baseten 使用。
  • 推理生态覆盖 SGLang、vLLM、TokenSpeed、llama.cpp 与 Hugging Face Transformers。

这里要区分“模型支持 1M 上下文”和“Tinker 微调入口当前提供 64K/256K”。前者是模型能力上限,后者是现有托管产品配置,不能把两者写成同一项可用服务。

Inkling-Small 仍处于预览

团队同时展示 Inkling-Small:总参数 2760 亿、激活参数 120 亿,在部分推理、编程和多模态基准上接近或超过大模型。它更适合成本与延迟敏感的代码、模型评分和合成数据场景,但完整权重尚未发布,需等测试完成。因此当前真正开放完整权重的是 Inkling,而不是 Small 版本。

评测结果需要怎样看

Inkling 在 SWE-bench Verified、Terminal Bench、AIME、MMMU Pro 和语音评测中给出了较强成绩,但不同外部模型使用的工具、提示和测试外壳并不完全一致。官方也注明,部分对比采用各厂商自报数据,Terminal Bench 中发现受网页搜索污染的解答后按零分处理。选型时应在自己的数据、推理预算和部署硬件上复测,不宜只根据一张综合图判断。

Inkling 的现实门槛也很明确:9750 亿总参数意味着自托管需要大型集群和成熟的量化、并行与监控能力。多数团队更可能先从托管 API 或 Tinker 微调开始,再决定是否下载权重自建服务。

来源与说明

本文依据 Thinking Machines Lab 于 2026 年 7 月 15 日发布的 Inkling 官方介绍。参数、可用入口和评测均按发布时状态整理。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 文心一言 AI聊天 文心一言 是百度文心大模型 AI 助手,支持百度 AI 聊天、文案创作和图像理解,适合中文用户和内容创作者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Meta AI AI聊天 Meta AI 是 Meta 的个人 AI 助手,可在网页、应用、AI 眼镜及 WhatsApp、Instagram 中使用,支持问答、图像理解和语音交流,适合社交与生活场景,部分功能受地区限制。 Pi AI AI聊天 Pi AI 是 Inflection AI 推出的个人 AI 助手,强调情绪理解、陪伴式交流、生产力建议和安全对话,可在 pi.ai 与移动端使用。它适合日常思考、学习陪练和规划,不替代专业心理支持。