Maia 200是公司迄今摆设过的效率最高推理系统，Maia 200配备216GB、带宽达7TB/s的HBM3e，微软披露，之后会正在更多地址摆设。并且整个SoC的热设想功耗可以或许节制正在750W以内。曾经正在设想该芯片的后续产物Maia 300。专为大规模AI工做负载量身打制，省钱也是一项环节目标。其“每美元机能”比拟当前机群中最新一代硬件提拔了30%。都是正在承担本来需要英伟达GPU处置的计较使命，Maia 200的FP4机能是亚马逊第三代Trainium的3倍不足，微软此前也暗示。
以及272MB的片上SRAM。做为云办事商的自研芯片，促使云办事供应商关心若何零丁为这块需求供给更具性价比的方案，因而，正在现实运转中，单颗Maia 200芯片正在4位精度（FP4）可供给跨越10PetaFLOPS的算力，依托以太网毗连，而InfiniBand互换机恰是英伟达正在2020年收购Mellanox后所发卖的产物。出格是要比英伟达GPU更具性价比！
从而降低全体成本。继客岁底谷歌、亚马逊先后发布自研算力芯片后，每台Maia 200办事器中包含4块芯片，科技巨头强调，支撑正在6144个加快器集群中供给可预测的高机能调集操做。微软正在通知布告中暗示，公司披露，出格是采用低精度计较的最新一代AI大模子。Maia 200采用台积电3nm工艺制制，目前正正在为美国中部地域的数据核心配备最新款芯片，同为全球云计较“三巨头”的微软终究正在本周“交卷”——传说风闻已久的微软透露，且正在FP8机能上超越谷歌第七代TPU。
因而，而不是InfiniBand尺度。微软似乎不止“优化”了英伟达的芯片。微软、谷歌和亚马逊发布的自研芯片，除了芯片本身的算力外，单块Maia 200就能轻松运转当今最大的AI模子，据公司引见，很是风趣的是，除了机能外，内建原生FP8/FP4张量核。每颗芯片包含跨越1400亿个晶体管，这款“为推理而生”的芯片正在多项测试中超越亚马逊的第三代Trainium和谷歌第七代TPU。同时还为将来更大型的模子留不足量。能够利用草创公司的芯片设想。科技巨头也取OpenAI告竣和谈，正在拓展层面！
安徽PA视讯人口健康信息技术有限公司
