开源大模型

本地部署就是把开源大模型装在自己的电脑或服务器上运行，数据不出内网。这篇文章讲清它和云端 API 的区别：硬件门槛、模型怎么选、隐私边界在哪，帮个人和公司判断值不值得动手。

模型蒸馏让小模型学会大模型的本事。本文讲清教师-学生训练怎么教、蒸馏和微调量化的区别、四个常见误解，以及蒸馏模型适合本地部署、低成本推理的场景边界。

vLLM 官方博客介绍基于 Gumbel-max 的文本水印：给 AI 生成文本打隐形标记却不改变输出分布，质量、速度实测几乎无损耗。讲清原理、代价与适用边界。

Fireworks Research 发布首款专用模型 Ember-1，基于 Kimi K3 构建，推理 token 减少约 40% 而质量持平。本文解读它的技术思路、适用场景，以及 Agent 开发者能省下多少成本。

2026年9月24日小米 MiMo 团队公布 MiMo-V3 核心架构 HySparse2：两级 KV 共享让长程多轮 Agent 的 Prefill 计算与 KV 缓存大幅下降，长上下文检索反而更准，适合关心 Agent 推理成本的团队。

**Kimi K2发布：开源Agentic AI模型的全面解析与应用前景** 一、Kimi K2发布背景近日，Moonshot AI正式推出了备受关注的Kimi K2开源模型。这款Agentic（自主行动）AI模型采用稀疏专家混合（MoE）架构，总参数达到惊人的1万亿，而单次激活的参数为320亿。作为当前Agent领域的顶级开源模型之一，Kimi K2迅速引发了AI社区与开发者的广泛关注。 二、技...

**Hunyuan-A13B：把 80 B 能力压进 13 B 显存的小体积 MoE 大模型** 腾讯开源的 Hunyuan-A13B 用稀疏专家结构让 80 B 参数模型在推理时只激活 13 B 专家，兼顾低显存与高性能。模型原生支持 256 K 上下文窗口，并引入“快思考 / 慢思考”两档推理路径：简单请求调用少量专家极速返回，复杂问题自动切换深度专家，提高准确率而不过度耗时。 **关键性能点...

**Qwen3热度爆棚：阿里开源大模型全球下载超1250万，引爆AI开源生态** 在大模型开源竞争日趋激烈的今天，阿里巴巴推出的最新开源大模型系列——**Qwen3**，以惊人的速度在全球范围内走红。自发布以来仅一个月，Qwen3系列模型全球累计下载量就突破**1250万次**，成为当之无愧的“爆款开源模型”。 **四大规模模型齐头并进：单个模型下载量超百万** Qwen3系列目前发布了四个规模的...