AI导航

Mistral Large 4开放权重正式发布:1T参数模型可下载自托管,1-bit量化本地运行要256GB内存

AI资讯
2 min read
2 次阅读

2026年10月29日,Mistral在官方博客宣布,正式开放Mistral Large 4(Le Chonk)的模型权重。10月初预览时只能走接口,这次改进版可直接下载、部署在自己的基础设施上。这对不想依赖第三方接口的团队是实质开放,但本地运行先要过硬件关。

这次开放的到底是什么

Mistral Large 4约1万亿参数,每次推理激活49B(计入嵌入层与输出层为52B),支持文本与图像输入、1M token上下文、160多种语言。128个专家每次只选4个、另有1个共享专家,配1.6B参数Pixtral视觉编码器。官方提供FP8与NVFP4两个检查点,后者面向英伟达Blackwell显卡。可经Mistral Studio、API、OpenRouter、Vibe Code试用,权重在Hugging Face下载。

成绩比预览时好了多少

三周强化学习后,编程成绩明显抬升:FrontierCode 2.0得19.7%;编程智能体指数48%,与领先开放权重模型基本持平,平均少用47%的token;Terminal-Bench 4.0得41%,较预览提高13个百分点。模型新增低、中、高三档推理,默认高档,推理档位不可关闭。安全方面,Artificial Analysis网络安全指数51%,恶意请求拒绝率96.6%,B3攻击抵抗率从93.3%升至97.1%。Mistral也提醒,模型在真实流量中显出协助真实攻击的潜力,护栏仍在调整;渗透测试专用变体只向审核过的企业伙伴开放,且限自有或授权系统。

本地运行先算内存账

Unsloth同步放出Dynamic GGUF量化版:最小1-bit约233GB,需256GB至270GB总内存,约等于一台高配Mac Studio;Unsloth自测称保留约91%的top-1一致性。2-bit约302GB至378GB,需310GB至390GB内存;8-bit近1.1TB,需1.2TB以上。llama.cpp团队的2-bit量化可在单台512GB统一内存的苹果芯片电脑上跑,M3 Ultra实测预填充约每秒90个token、生成约每秒15个token。长上下文还要另算KV缓存。多数团队应先用API实测,再决定是否投入硬件。

许可与价格

模型用Mistral Ecosystem开放权重许可(修改版MIT):免费使用、修改、微调与商用均可,唯独以模型即服务方式对外商用,需另取商业许可。API价为每百万token输入0.70美元、缓存输入0.07美元、输出2.10美元。是否自托管看三点:数据能否出内网、用量能否摊平硬件、团队能否自运服务;都不确定就先用API。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。