2026年11月12日,Edge0在官方博客宣布开源Edge0-145B与Edge0-120B,及配套推理框架与部署工具。Edge0-145B是首个1450亿参数的开源端侧模型,官方称其编码、推理与智能体能力可比肩部分前沿云端模型,能在笔记本本地运行,峰值内存29GB,解码每秒80个token以上。
145B参数怎么塞进一台笔记本
关键是模型与推理引擎一起设计:145B参数中,每步实际参与计算的只有约100亿,64个专家共享两套大矩阵,每个专家只保留少量自有参数。加载分三层流水线:常用专家常驻显存,约40GB专家库放内存,约48GB词表数据存硬盘按需读取;CPU与GPU并行,再用推测解码一次验证多个候选token。官方配置128K到256K上下文,预填充每秒1100个token以上,典型功耗约120瓦。
权重已上架Hugging Face,推理框架与Edge0应用同步开源。官方演示里,模型在本地用Blender搭出曼哈顿街区3D场景,一小时内做出Roadster科普视频,还能独立规划并做出可玩游戏,全程不调用云端模型、不产生云端token费用,数据留在本机,离线可用核心能力。
跑分和演示能说明什么
| 评测 | Edge0-145B | Qwen3.8-Flash-Next | DeepSeek-V4-Flash |
|---|---|---|---|
| DeepSWE 1.1 | 64.6 | 58.7 | 54.4 |
| Terminal-Bench | 86.52 | 83.3 | 82.7 |
| GPQA-Diamond | 90.4 | 91.7 | 90.8 |
官方数字:Edge0-145B六项均分72.8,高于Qwen3.8-Flash-Next的71.7与DeepSeek-V4-Flash的70.1,编码与终端任务领先,知识类评测互有胜负。但分数来自Edge0自己的内部评测,部分对照组引用第三方结果,独立复现还没出来,演示视频也经过挑选,不能直接等同日常使用体验。
更实际的边界在硬件上:29GB只是峰值内存,专家库与词表还要另外占用系统内存与硬盘,官方对标48GB内存的笔记本;手机端对应35B参数的Edge0-35B,145B目前还不是手机模型。本地推理省了云端token费,硬件与电费仍要自己承担。本地部署划不划算,可参考本站之前DeepSeek满血版和蒸馏版怎么选的对比思路。接下来看技术报告与独立评测:跑分能否在第三方复现、真实任务里稳不稳定,决定它是端侧AI的转折点,还是一次漂亮的演示。