2026 年 7 月 15 日,Thinking Machines Lab 发布多模态开放权重模型 Inkling。它采用 MoE 架构,总参数 9750 亿、每个 token 激活 410 亿参数,最高支持 100 万 token 上下文,并用 45 万亿个文本、图像、音频和视频 token 预训练。完整原始权重和面向 NVIDIA Blackwell 的 NVFP4 版本已经上线 Hugging Face,开发者也能在 Tinker 上直接微调。
Inkling 的定位不是单项榜首
官方把 Inkling 定位为便于定制的通用基础模型,而不是当前最强的开放或闭源模型。它原生处理文本、图像和音频,覆盖推理、编程、工具调用、视觉与语音任务,并提供可调节的思考强度,让开发者在效果、token 消耗和延迟之间选择。
这种定位适合需要把企业知识、特定工作流或自有评价标准写入模型的团队。官方演示中,Inkling 在 Tinker 内自行编写微调任务、运行训练、评估结果并切换到新权重;这说明它被设计为能进入持续定制流程,而不只是提供一个固定聊天端点。
开放权重之后怎样使用
- 完整模型权重已提供原始检查点和 NVFP4 检查点,后者面向 Blackwell 系统降低推理负担。
- Tinker 当前提供 64K 与 256K 上下文的微调选项,并开放 Playground 供开发者试用。
- API 可通过 Together AI、Fireworks、Modal、Databricks 和 Baseten 使用。
- 推理生态覆盖 SGLang、vLLM、TokenSpeed、llama.cpp 与 Hugging Face Transformers。
这里要区分“模型支持 1M 上下文”和“Tinker 微调入口当前提供 64K/256K”。前者是模型能力上限,后者是现有托管产品配置,不能把两者写成同一项可用服务。
Inkling-Small 仍处于预览
团队同时展示 Inkling-Small:总参数 2760 亿、激活参数 120 亿,在部分推理、编程和多模态基准上接近或超过大模型。它更适合成本与延迟敏感的代码、模型评分和合成数据场景,但完整权重尚未发布,需等测试完成。因此当前真正开放完整权重的是 Inkling,而不是 Small 版本。
评测结果需要怎样看
Inkling 在 SWE-bench Verified、Terminal Bench、AIME、MMMU Pro 和语音评测中给出了较强成绩,但不同外部模型使用的工具、提示和测试外壳并不完全一致。官方也注明,部分对比采用各厂商自报数据,Terminal Bench 中发现受网页搜索污染的解答后按零分处理。选型时应在自己的数据、推理预算和部署硬件上复测,不宜只根据一张综合图判断。
Inkling 的现实门槛也很明确:9750 亿总参数意味着自托管需要大型集群和成熟的量化、并行与监控能力。多数团队更可能先从托管 API 或 Tinker 微调开始,再决定是否下载权重自建服务。
来源与说明
本文依据 Thinking Machines Lab 于 2026 年 7 月 15 日发布的 Inkling 官方介绍。参数、可用入口和评测均按发布时状态整理。