Casa Notizie del settore

Il cluster AI di Oracle dotato di 131.072 GPU NVIDIA B200: potenza straordinaria di 240 exaflops

kyojuro venerdì 13 settembre 2024

Oracle ha annunciato la disponibilità di diversi cluster di calcolo GPU progettati per fornire servizi di formazione AI tramite l'infrastruttura cloud di Oracle, con il cluster più potente dotato di oltre 100.000 GPU NVIDIA Blackwell.

  • Utilizzando un totale di 131.072.000 schede acceleratrici B200 GPU, questa configurazione raggiunge prestazioni di picco FP8 a virgola mobile e INT8 intere fino a 2,4 ZFlops, ovvero 24 trilioni di operazioni al secondo. *

I nodi di base sono gli * alloggiamenti raffreddati a liquido NVIDIA GB200 NVL72 *, ciascuno dei quali contiene 72 schede acceleratrici GPU integrate. Questi alloggiamenti sono interconnessi utilizzando il bus NVLink con una larghezza di banda di 129,6 TB/s.

Nonostante il numero impressionante di schede acceleratrici e le prestazioni di picco, questa configurazione non ha ancora superato il cluster Mask. Tuttavia, è un annuncio entusiasmante perché Oracle sostiene che NVIDIA non fornirà le GPU Blackwell in grandi quantità fino alla prima metà del prossimo anno. Non c'è ancora una data di lancio specifica per questo massiccio cluster.

Un secondo cluster è dotato di 16.384 GPU NVIDIA H100, che vantano prestazioni di picco FP8 / INT8 di 65 PFlops (650 milioni di operazioni al secondo) e una larghezza di banda totale di 13 Pbps.

Il terzo cluster dispone di 65.536 GPU NVIDIA H200, fornendo prestazioni di picco FP8 / INT8 di 260 EFlops (2,6 trilioni di operazioni al secondo) e una larghezza di banda totale di 52 Pbps. Questo cluster dovrebbe essere operativo entro la fine di quest'anno.

Organizzazioni come WideLabs e Zoom hanno già iniziato ad adottare i nuovi servizi di clustering di Oracle.

甲骨文AI集群配备131072万块NVIDIA B200 GPU:恐怖算力24万亿亿次

Notizie correlate

© 2024 - TopCPU.net   Contattaci Informativa sulla privacy