A NVIDIA anunciou a ampliação de sua linha de produtos voltados para data centers, durante a conferência SC24 de supercomputação, ao introduzir as GPUs GB200 NVL4 e H200 NVL. O modelo GB200 NVL4 é uma solução avançada para servidores individuais, que melhora a linha baseada na arquitetura Blackwell. Combinando de maneira eficiente quatro GPUs Blackwell e duas CPUs Grace em uma única placa-mãe, utiliza tecnologia de interconexão NVLink para assegurar comunicações eficazes entre os componentes. O sistema conta com 768GB de memória HBM3E e 960GB de memória LPDDR5X, totalizando uma impressionante largura de banda de memória de 32TB/s. Essa configuração cria um sistema poderoso, capaz de administrar cargas de trabalho intensivas em IA com destacada eficiência.

Conforme informações da NVIDIA, o GB200 NVL4 é 2,2 vezes mais eficiente em simulações, 1,8 vezes melhor em treinamentos de IA e 1,8 vezes mais eficaz na inferência de IA, quando comparado ao modelo GH200 NVL4. O sistema demanda muita energia, consumindo 5.400W, e possui um moderno sistema de resfriamento líquido para otimizar o desempenho. Espera-se que este modelo seja implementado em racks de servidores de clientes que necessitam de computação em larga escala.

A GPU H200 NVL PCIe da NVIDIA emerge como a mais nova integrante da família Hopper. Foi especificamente projetada para empresas que operam data centers, adaptando-se perfeitamente a sistemas de rack de baixo consumo e com resfriamento a ar. Essa flexibilidade garante a aceleração eficiente para diversas aplicações em IA e HPC. Pesquisas recentes revelam que aproximadamente 70% dos racks empresariais operam com consumo igual ou inferior a 20 kW, dependendo de resfriamento a ar, realçando a importância das soluções PCIe da NVIDIA.

A GPU H200 NVL PCIe ocupa dois slots e tem um TDP de 600W, inferior ao modelo H200 SXM, que é de 700W. Embora isso resulte em uma redução de 15,6% em operações Tensor Core INT8, a GPU ainda oferece suporte para interconexões NVLink de 900 GB/s em configurações duplas ou quádruplas. Quando comparada à H100 NVL, a nova versão proporciona 1,5 vezes mais memória, 1,2 vezes mais largura de banda e oferece um desempenho 1,7 vezes maior em inferência de IA, além de uma eficiência aprimorada de 30% nos aplicativos HPC.