Le GPU NVIDIA Blackwell si distinguono per la loro potenza e robustezza nel campo dell'intelligenza artificiale (IA). Grazie ai test recentemente divulgati da MLCommons MLPerf v4.1, siamo in grado di valutare con maggiore precisione le loro capacità effettive.
Nel confronto tra due generazioni di server, l'HGX B200 e l'HGX H200, emerge una chiara superiorità delle nuove GPU. L'HGX B200 è equipaggiato con un massimo di otto GPU Blackwell B200, ognuna delle quali richiede fino a 1000 watt di consumo energetico, sottolineando l'importanza di una gestione energetica efficiente.
I risultati dei benchmark sul pre-addestramento di GPT-3 indicano un raddoppiamento delle prestazioni delle GPU Blackwell rispetto alle precedenti GPU Hopper. Questo miglioramento è particolarmente evidente nei compiti di fine tuning con Llama 2, dotato di 70 miliardi di parametri, dove Blackwell raggiunge un incremento delle prestazioni fino a 2,2 volte.
L'integrazione con tecnologie avanzate come i ConnectX-7 SuperNIC, gli switch Quantum-2 InfiniBand e il bus di interconnessione NVLink di quinta generazione è un altro punto di forza delle GPU Blackwell. Queste tecnologie facilitano una comunicazione efficiente tra i nodi, assicurando una distribuzione dei carichi di lavoro dell'IA in modo equilibrato e migliorando significativamente l'efficienza complessiva.
Ad esempio, mentre le GPU della generazione Hopper necessitano di 256 unità per gestire i 175 miliardi di parametri di GPT-3, le Blackwell riescono a ottenere le stesse prestazioni con sole 64 unità, dimostrando così la loro eccezionale efficienza nei compiti di alto livello.