AI导航

微软Maia 300发布:每兆瓦token多40%,2027年量产部署

AI资讯
3 min read
0 次阅读

微软 Maia 300 在 2026 年 10 月 12 日由微软官方博客正式发布,这是 Azure Maia 自研加速器家族的第三代产品,定位很明确:推理优先。微软同时宣布,2027 年起把整个 Maia 家族扩到多吉瓦级部署,让它成为微软自家产品和服务的主要推理系统;Maia 300 的生产部署也从 2027 年开始。对普通用户来说,短期内买不到、也租不到这块芯片,但 Copilot、Teams 这类服务的响应速度和成本结构,接下来会越来越多地由它决定。

先看规格:为长上下文和多步智能体调的系统

Maia 300 不是一颗孤立的芯片,微软把它称作完整的智能系统,设计目标是长上下文推理、对延迟敏感的对话体验,以及持续运行的多步智能体任务。关键规格如下:

制程与结构多芯片粒设计,计算芯片粒用台积电 N2P 工艺,计算、内存控制器与 I/O 分开
内存8 组 HBM4,峰值带宽 18.0 TB/s,单芯片热设计功耗 950 瓦
整柜96 颗加速器,功耗包络 167 千瓦,HBM 总容量 27.6 TB,聚合带宽 1.7 PB/s
低精度增强型 MXFP4 等低精度格式,压低 KV 缓存的内存与带宽占用

两个效率数字是微软的主推卖点:相比主流 GPU 系统,Maia 300 预期每兆瓦多产出 40% 的 token;满配 96 颗的整柜,token 吞吐最高可达上一代 Maia 200 整柜的 7 倍。这两个数字都是微软自己的口径,目前没有第三方实测,读的时候要留一分余地。

思路是少搬数据,而不是堆算力

微软给出的解释是,大规模推理的瓶颈越来越不在计算本身,而在数据搬运。Maia 300 用软件定义的数据流架构加 AI 辅助的内核优化,让数据尽量留在本地;片上 SRAM 被当作软件管理的暂存区,减轻 HBM 压力。网络也被并进同一套数据流:加速器之间用为张量并行优化的高速互连和定制 AI 传输协议,底层走以太网,从单柜扩到整个数据中心。这种芯片、系统、软件一起设计的做法,是它和通用 GPU 路线最根本的区别。

上一代已经在跑什么活

判断 Maia 300 的节奏,可以看 Maia 200 的现状:它已经在美国、欧洲和澳大利亚的生产环境里跑真实负载,包括 Microsoft Copilot,并支撑 MAI 团队开发下一代模型,GitHub Copilot 和 Microsoft Foundry 计划在今年年底前跟进;微软称它在 Teams、Copilot 等功能上每瓦产出的 token 最高达主流 GPU 基础设施的 1.7 倍,上面跑着 OpenAI 模型、微软自研 MAI 模型和主流开源模型。也就是说,Maia 300 接在一个已经上量产的体系后面,不是实验室预告。

接下来盯什么

2027 年的生产部署是第一个硬节点;在此之前,微软预告下个月的 Ignite 2026 大会会讲更多基础设施战略。对 Azure 客户和 Copilot 用户,实际影响要等 Maia 300 承接的服务范围公布后才能评估,价格、配额和区域可用性这次都没有提。行业的信号很清楚:超大云厂商把推理主力迁到自研芯片的决心又进了一步。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。