微软发布自研AI芯片Maia 300：台积电2nm工艺，单机架96颗

10月13日，微软正式推出第三代自研AI芯片Azure Maia 300。该芯片基于多Chiplet与软件定义数据流架构，其中计算Chiplet采用台积电N2P（2nm）工艺制造，配备8组HBM4堆栈，拥有288GB HBM容量与18TB/s峰值内存带宽，FP4峰值算力达13.8 PFLOPS。微软董事长兼CEO萨提亚·纳德拉发文称，这是“我们迄今对自研芯片的最大赌注”。

作为一款专为AI推理设计的芯片，Maia 300重点优化长上下文、内存密集型与解码密集型工作负载。与上代Maia 200相比，其内存带宽提升至2.5倍，容量增加33%，每瓦HBM带宽提升至约2倍；在机架层面，单机架AI芯片数量翻倍至96颗，功耗167kW，提供27.6TB HBM容量和1.7PB/s聚合内存带宽，机架级token吞吐量最高达到Maia 200的7倍，每瓦性能提升至2.5倍以上。与领先的GPU系统相比，Maia 300每瓦token生成数量提高40%。

架构层面，Maia 300将计算功能部署在台积电N2P工艺的Chiplet上，内存控制器与I/O分离至针对带宽、连接和成本分别优化的裸晶，软件定义局部访问数据流架构（SDLA）负责管理封装内的数据局部性与移动。芯片引入增强型MXFP4格式及低于3bit的存储格式，并采用跨Chiplet的非统一内存访问（NUMA）组织，缓解解码阶段KV Cache带来的带宽压力。网络方面，机架内采用半交换式电互连拓扑，跨机架通过第二级光互连最多连接128个机架，可构建包含12288颗加速器的Superpod。

在系统集成上，Maia 300机架通过24个四加速器托盘集成96颗加速器，并将6颗高端口密度交换ASIC整合进3个液冷交换机托盘；供电采用双路输入与50V母排架构，散热则为液冷与风冷结合。纳德拉表示，从明年开始微软将把Maia系列扩展到数吉瓦级部署规模，使其成为微软产品与服务的主要推理系统。

背景上，微软第二代芯片Maia 200已在美国、欧洲和澳大利亚部署，支撑Teams、Copilot等体验，每瓦token生成数量最高达到领先GPU基础设施的1.7倍。随着大模型调用规模持续放大，云厂商自研芯片正从技术验证走向大规模商用，推理成本与能效成为云厂商竞争的新焦点。