AI导航

Inkling 2 Mini开源发布:26B模型能在笔记本上离线跑

AI资讯
2 min read
1 次阅读

2026年11月20日,Thinking Machines Lab发布开源权重模型Inkling 2 Mini,总参数264亿、每次只激活34亿,内存占用约20GB,能在消费级笔记本和桌面AI电脑上本地运行。它的关键设计是循环Transformer:中间12层每生成一个token跑三遍,让模型在不写出推理过程的情况下多想几步。这是Inkling系列的第二款小模型,上一款Inkling 2 Small是594B参数的MoE大模型,Mini走的是另一条路:把模型做小、靠循环补推理。

跑分处在什么位置

在100B参数以下的开源权重模型里,Inkling 2 Mini在智能体编程基准上领先:DeepSWE v1.1为48.2%,Vals Index v2.2为46.5%,SWE-bench Pro v2困难集为77.9%。它也擅长配合搜索和工具使用,BrowseComp达到79.0%。研究团队还用它在飞机上离线跑MacBook Pro,几分钟内做出一个可玩的飞行模拟器;斯坦福的能效测试里,它在DGX Spark上的智能/焦耳得分是0.703,明显高于同场对比的Qwen3.6-35B-A3B。

基准 Inkling 2 Mini Qwen3.8-27B
DeepSWE v1.1 48.2% 42.2%
Vals Index v2.2 46.5% 29.8%
BrowseComp 79.0% 61.6%

循环结构换来了什么

循环不是单纯加参数,而是把算力花在重复使用中间层上。官方同步放出一个可变循环版本做对照实验:无思维链的时间跨度从1次循环的16秒提升到3次循环的37秒,串行推理成绩一路提升到10次循环。代价是知识容量基本不涨:循环帮不上记忆事实,AA-Omniscience这类知识基准的成绩和同尺寸模型处在同一水平。

谁适合现在就试

模型已在Tinker上提供推理与定制,适合想在本地跑常驻智能体的开发者,以及对可监控性有要求的研究者。但它不是全能小模型:多轮对话和多约束指令是短板,MultiChallenge只有50.0%,落后于Qwen3.8-27B;推理密集型基准也不及更大模型。需要联网知识或复杂对话的场景,仍要搭配搜索工具或更大模型。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 弱鸡AI AI视频 低价AI视频生成聚合平台,seedance2.0,seedance2.5,minimax h3,wan,muse等视频生成模型,支持在线创作与 API 接入。 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。