AI导航

Edge0-145B开源:1450亿参数大模型装进笔记本

AI资讯
2 min read
0 次阅读

2026年11月12日,Edge0在官方博客宣布开源Edge0-145B与Edge0-120B,及配套推理框架与部署工具。Edge0-145B是首个1450亿参数的开源端侧模型,官方称其编码、推理与智能体能力可比肩部分前沿云端模型,能在笔记本本地运行,峰值内存29GB,解码每秒80个token以上。

145B参数怎么塞进一台笔记本

关键是模型与推理引擎一起设计:145B参数中,每步实际参与计算的只有约100亿,64个专家共享两套大矩阵,每个专家只保留少量自有参数。加载分三层流水线:常用专家常驻显存,约40GB专家库放内存,约48GB词表数据存硬盘按需读取;CPU与GPU并行,再用推测解码一次验证多个候选token。官方配置128K到256K上下文,预填充每秒1100个token以上,典型功耗约120瓦。

权重已上架Hugging Face,推理框架与Edge0应用同步开源。官方演示里,模型在本地用Blender搭出曼哈顿街区3D场景,一小时内做出Roadster科普视频,还能独立规划并做出可玩游戏,全程不调用云端模型、不产生云端token费用,数据留在本机,离线可用核心能力。

跑分和演示能说明什么

评测 Edge0-145B Qwen3.8-Flash-Next DeepSeek-V4-Flash
DeepSWE 1.1 64.6 58.7 54.4
Terminal-Bench 86.52 83.3 82.7
GPQA-Diamond 90.4 91.7 90.8

官方数字:Edge0-145B六项均分72.8,高于Qwen3.8-Flash-Next的71.7与DeepSeek-V4-Flash的70.1,编码与终端任务领先,知识类评测互有胜负。但分数来自Edge0自己的内部评测,部分对照组引用第三方结果,独立复现还没出来,演示视频也经过挑选,不能直接等同日常使用体验。

更实际的边界在硬件上:29GB只是峰值内存,专家库与词表还要另外占用系统内存与硬盘,官方对标48GB内存的笔记本;手机端对应35B参数的Edge0-35B,145B目前还不是手机模型。本地推理省了云端token费,硬件与电费仍要自己承担。本地部署划不划算,可参考本站之前DeepSeek满血版和蒸馏版怎么选的对比思路。接下来看技术报告与独立评测:跑分能否在第三方复现、真实任务里稳不稳定,决定它是端侧AI的转折点,还是一次漂亮的演示。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 弱鸡AI AI视频 低价AI视频生成聚合平台,seedance2.0,seedance2.5,minimax h3,wan,muse等视频生成模型,支持在线创作与 API 接入。 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。