每兆瓦电力多处理40%的Token,这是微软给第三代自研AI芯片Maia 300定下的指标,比较对象是目前领先的GPU系统。
微软周一正式发布了这颗芯片。另一组数字更直接:在96颗加速器组成的配置下,Maia 300的机架级Token吞吐量最高能到上一代Maia 200的7倍。
比参数更关键的是微软的表态。公司说今后进来的推理请求,主要会交给自家芯片处理;从2027年起,Azure Maia系列系统的部署规模将扩大到多吉瓦级,并成为微软产品和服务的主要推理系统。从吉瓦这个单位就能看出,这已经不是试点,而是按电厂级别的用电在规划。
Maia 200现在已经跑在生产环境里,承接的是Microsoft Copilot这类工作负载。Maia 300排在2027年开始部署,微软给它划定了三个场景:长上下文推理、低延迟对话,以及需要连续多步执行的智能体任务。这三类都是吃Token的大户,上下文越长、智能体调用越多,单个请求消耗的Token就越多。
微软选择用“每兆瓦Token数”而不是峰值算力来做宣传,背后是推理业务的账本。训练看的是峰值算力和集群规模,推理看的是同样的电力、同样的成本能吐出多少Token。数据中心的电力配额越来越紧,谁能在同等电力下服务更多请求,谁的毛利就更好看。
这一步也意味着微软对外购GPU的依赖会被逐步稀释。谷歌有TPU,亚马逊有Trainium,微软的Maia在三家里起步最晚。到第三代,微软才把“主要推理系统”这个位置明确交给自研芯片。
不过2027年距现在还有一年多,40%和7倍都是微软自己的测算,实际交付节奏和良率,要等它真正上量才看得清。
© 版权声明
文章版权归作者所有,未经允许请勿转载。





微软第三代Maia芯片每兆瓦Token多40%,2027年起当推理主力