标签:"Maia"相关文章

每瓦Token提升1.7倍:微软Maia 200量产背后的AI数据中心能效与生态变局(token大量消耗的三个步骤)

每瓦Token提升1.7倍:微软Maia 200量产背后的AI数据中心能效与生态变局(token大量消耗的三个步骤)

训练阶段更关注集群峰值算力、互联带宽和任务完成时间;推理阶段则不同,模型要持续在线,Token要稳定产出,电力、散热、网络和软件调度都会进入单位成本。微软Maia 200规模化生产,把云厂商自研推理芯片推到主…...

微软计划大规模部署自研人工智能芯片:直指成本与算力效率(微软投入800亿美元)

微软计划大规模部署自研人工智能芯片:直指成本与算力效率(微软投入800亿美元)

据路透社报道称,微软发布下一代定制人工智能芯片Maia 300,并表示计划明年部署超过100万颗该芯片,用于支持内部AI服务。微软方面表示,Maia 300每兆瓦计算能力将比“领先的基于GPU的系统”高…...