Oracle ha annunciato la disponibilità di diversi cluster di calcolo GPU progettati per fornire servizi di formazione AI tramite l'infrastruttura cloud di Oracle, con il cluster più potente dotato di oltre 100.000 GPU NVIDIA Blackwell.
I nodi di base sono gli * alloggiamenti raffreddati a liquido NVIDIA GB200 NVL72 *, ciascuno dei quali contiene 72 schede acceleratrici GPU integrate. Questi alloggiamenti sono interconnessi utilizzando il bus NVLink con una larghezza di banda di 129,6 TB/s.
Nonostante il numero impressionante di schede acceleratrici e le prestazioni di picco, questa configurazione non ha ancora superato il cluster Mask. Tuttavia, è un annuncio entusiasmante perché Oracle sostiene che NVIDIA non fornirà le GPU Blackwell in grandi quantità fino alla prima metà del prossimo anno. Non c'è ancora una data di lancio specifica per questo massiccio cluster.
Un secondo cluster è dotato di 16.384 GPU NVIDIA H100, che vantano prestazioni di picco FP8 / INT8 di 65 PFlops (650 milioni di operazioni al secondo) e una larghezza di banda totale di 13 Pbps.
Il terzo cluster dispone di 65.536 GPU NVIDIA H200, fornendo prestazioni di picco FP8 / INT8 di 260 EFlops (2,6 trilioni di operazioni al secondo) e una larghezza di banda totale di 52 Pbps. Questo cluster dovrebbe essere operativo entro la fine di quest'anno.
Organizzazioni come WideLabs e Zoom hanno già iniziato ad adottare i nuovi servizi di clustering di Oracle.