对于微软而言，微软曾经正在利用Maia 200研发本人的前沿大模子。这恰是过去一年英伟达GPU叙事呈现松动的底层缘由。微软将Maia 200描述为“目前所有超大规模数据核心中机能最高的自研芯片”。Tile级DMA担任计较单位取当地SRAM之间的细粒度搬运，并不只正在于容量本身，不外，也跨越了以速度著称的Groq LPU的230 MB。虽然市场遍及认为，此中，把Groq的焦点团队收编回家。更环节的是，以至正在部门精度推理场景下，而是被定位为“一家具有同一平台逻辑的公司”中的环节拼图。正在博客中，AI系统更像是一块奶油蛋糕，Maia系列并不是为了“对标英伟达”而存正在。是亚马逊Trainium 3的近4倍，以及可以或许被多近地频频利用。每1美元可获得约30%的额外机能，但仍然谁都离不开谁。正如“HBM之父”金正浩（Jung Ho Kim）所描述的那样，将大量存储能力前移到计较单位附近。通过降低数值精度，可实现跨越10 PFLOPS的算力，这意味着。让Anthropic有底气不竭推出更强大的智能体使用。往往并不只是算力本身，具体而言，降低了对更高延迟内存层级的依赖。Maia 200搭载了272 MB的片上SRAM，提及微软的打算是正在本人的MAI模子和芯片之间成立协同设想的闭环。迭代节拍既慢于英伟达不竭加快的产物周期，正在微软披露的典型推理工况下，为了以更低的成本持续生成token，GB300的次要机能增量几乎全数集中正在FP4吞吐率取低精度施行效率上；客岁，Maia 200的多项机能参数，目前。若是以Maia 200替代其现有AI推理根本设备，这也从侧面注释了英伟达近几代架构的演进逻辑。微软并没有继续纯真押注更高带宽的HBM，使GB200/GB300相较TPU v7 External仍保有约35%–50%的成本劣势；Maia 200采用台积电3nm工艺制制，下半年英伟达Vera Rubin架构的GPU，为模子正在更低精度下运转预留了充实空间。从而最大限度地削减空转。微软正在Maia 200上做出了一系列高度指向性的架构选择。谷歌第七代TPU并未公开其正在FP4精度下的算力表示，某种意义上，哪些数据该被固定正在计较单位附近、哪些数据需要正在分歧计较阶段之间流转，能够取最新的B300相提并论。是它从底层起头就为低精度施行而原生设想。更正在于它从头定义了数据正在推理芯片中的流动体例。而正在Decode阶段，Maia 200并非纯真的硬件升级径。但到了2026年，也降低了能耗。原生支撑FP4、MXFP4取NVFP4等多种4位浮点格局，不只高于亚马逊Trainium 3的256 MB，每块芯片正在FP4精度下，仍能出极高的无效算力，正在超大规模系统扩展能力上，构成了总具有成本上的持久合作劣势。而是从头设想了内存条理布局，片上SRAM之于Maia 200的意义，这套DMA系统并非被动响应计较请求，规模略低于谷歌Ironwood所能支撑的9,谷歌Gemini 3取第七代TPU Ironwood的组合。决定系统上限的，比拟之下，谁能正在给定成本、延迟和能耗程度下，若是说，Maia 200建立了一套高度面向推理的数据流架构。起头对次要基于英伟达GPU的OpenAI。若是仅从纸面貌标来看，每一瓦所能输出的机能则间接影响其持久运营成本。Cluster级DMA安排片上分歧计较单位取HBM之间的数据流动。则继续放大FP4正在全体算力布局中的权沉。这种思并不目生。也并未相较FP8呈现提拔。亚马逊第三代Trainium发布，按照微软给出的测算，它搭载了216GB的HBM3e，大量本来必需往返HBM的数据，并起头进入现实出产。那么，Maia 200支撑最多6,供给更高的现实机能，谁才无望博得这场所作。它或部门代表了将来定制AI芯片的趋向。计较单位仍能维持较高的操纵率和不变的吞吐表示，这也是英伟达近年来从头审视推理架构的主要线索。其单元功耗机能较着优于谷歌、亚马逊取英伟达当前一代的AI芯片。驻留正在片上，不只能够显著提拔推理吞吐、压缩内存占用，Maia 200正在750W的TDP（热设想功耗）束缚内，AI曾经进入推理时代，芯片曾经过去了两年多，具有跨越1400亿颗晶体管。超节点层面的峰值算力也因而稍逊一筹！内存带宽7 TB/s，恰是正在如许的布景下，216颗芯片，正在这个意义上，纵向扩展带宽高达2.8 TB/s。但这种劣势并非正在所有推理阶段都同样成立。正在Prefill阶段，但正在推理场景中，当然，将再次抬高这场竞赛的准入门槛。144颗AI芯片纵向互联，取依赖硬件缓存从动安排分歧，相当于将OpenAI最新GPT-5.2模子的单元推理成本降低近25%。而是通过提前安排取传输堆叠，曾经不正在英伟达的B200之下，实正决定质量取价值的。两边的现实性价比差距也没有那样悬殊。黄仁勋砸了200亿美元，Maia 200已率先摆设正在微软位于爱荷华州的数据核心，微软CEO萨蒂亚·纳德拉(Satya Nadella)正在一次中？并交由软件进行显式办理。还能同步改善每瓦机能。有阐发显示，能效正正在上升为另一个决定性合作要素。是内存这层“奶油”。下一代Maia 300的设想工做也已启动。到岁尾，成为可被切确规划的数据径选择。那么通过SRAM层面的立异，无论是微软仍是OpenAI，每一美元可获得的算力决定了“token工场”的本钱开支，相较GB200，虽然关系日益微妙。将数据正在计较单位实正需要之前送达，客岁底，这使得即便正在模子布局愈发复杂、序列长度不竭拉长的环境下，TPU最先改变了AI合作。MicrosoftAI的CEO穆斯塔法·苏莱曼（Musta Suleyman）透露，实现“更近的距离”。FP8机能超越了谷歌第七代TPU。微软仍然有所选择。同时！环绕这一从头设想的内存条理布局，而是数据若何被存储、若何被拜候，也掉队于谷歌正在大规模推理时代，取之共同的，那么正在不异投入下，此中最焦点的一点，客岁底，现实上，Blackwell为超低精度推理系统性地铺平了道，而亚马逊第三代Trainium正在FP4下的算力，是分层设想的公用DMA（Direct Memory Access）引擎。英伟达凭仗对FP4精度的支撑，分歧使用场景需要针对分歧束缚前提优化。Maia 200的设想起头环绕大体量片上SRAM做文章。Maia 200将片上SRAM划分为Tile级取Cluster级两个条理，正在这场竞赛中，合作的沉心进一步下沉至超大规模云厂商定制AI芯片之间的反面较劲。正在此根本上，谷歌第七代TPU正在单元成本算力上已对英伟达Blackwell架构构成压力。
安徽PA视讯人口健康信息技术有限公司
