facebook pixel
A Microsoft lançou o Maia 200, seu novo acelerador de IA focado em inferência e raciocínio em larga escala. Mais do que performance, o chip foi desenvolvido para rodar LLMs de qualquer tamanho, inclusive modelos maiores do que os disponíveis hoje. Ou seja, ele está preparado para o futuro, o que reforça a visão da Microsoft de enxergar a IA como uma infraestrutura crítica a longo prazo. Fabricado no processo de 3 nanômetros pela TSMC, o novo processador entrega mais de 10 petaflops em FP4 e mais de 5 petaflops em FP8. Além disso, o novo chip tem 216 GB de memória de alta definição HBM3e com 7 TB/s de banda de memória. Esses números colocam o Maia 200 na vanguarda de aceleração de inferência, com um desempenho até 30% melhor por dólar na comparação com o hardware que a própria Azure usa hoje. Segundo a Microsoft, essa performance supera concorrentes como o Trainium 3 da AWS e o TPU v7 do Google. Outro diferencial é que ele pode ser resfriado por água, o que permitirá seu uso em data...

 9

    Suggested Credits
    Tags, Events, and Projects