Lançamento da AMD Instinct MI350X e MI355X: 3 nm, 185 bilhões de transistores e 288 GB de memória HBM3e

AMD acaba de lançar sua série Instinct MI350, trazendo uma revolução no mercado de GPUs voltadas para IA e HPC. A nova série conta com dois modelos: o MI350X e o modelo topo de linha MI355X. Esses chips são baseados na arquitetura CDNA 4 e no processo de fabricação de 3 nm da TSMC, oferecendo desempenho impressionante com 288 GB de memória HBM3e e suporte para os formatos de dados IA FP4/FP6. Com essas inovações, a AMD está pronta para agitar o mercado de GPUs de alto desempenho.

Falando em desempenho, a série MI350 oferece até 20 PFLOPs em cálculos FP4/FP6, o que representa um aumento de 4x em relação à geração anterior.

O modelo MI355X, que é o topo de linha, conta com 8 TB/s de largura de banda de memória, 79 TFLOPs em FP64 e 20 PFLOPs em FP6/FP4, tudo isso em uma configuração de 1400W. Essas novas GPUs também possuem 256 MB de Infinity Cache, o que acelera a transferência de dados e melhora o desempenho geral. Elas são compostas por 256 unidades de computação, distribuídas em 8 zonas, cada uma com 32 unidades. Os chips IO utilizam a tecnologia N6 da TSMC.

Ao comparar o MI355X com o B200 da NVIDIA, fica claro que a série MI350 supera a concorrência em diversos aspectos, incluindo largura de banda de memória, FP64, FP8 e FP6. O MI355X possui 1,6x mais memória e desempenho significativamente superior em FP64. Além disso, a nova série da AMD apresenta resultados impressionantes em comparação com a série MI300, com ganhos de até 35x de desempenho em testes com o Llama 3.1 405B.

A AMD também demonstrou a impressionante escalabilidade da série MI350, com até 8 GPUs oferecendo 2,3 TB de memória HBM3e e 161 PFLOPs de computação FP6/FP4. Um rack completo com 128-96 MI350 pode fornecer até 36 TB de memória e 2,6 Exaflops de computação FP4. A série Instinct MI350 estará disponível por meio dos parceiros da AMD a partir do terceiro trimestre de 2025, enquanto a série MI400 já está em desenvolvimento e será lançada em 2026.