Oracle a récemment annoncé la disponibilité de plusieurs clusters de calcul GPU, spécialement conçus pour offrir des services de formation à l'intelligence artificielle via l'infrastructure cloud d'Oracle. Parmi ces clusters, le plus puissant comprend plus de 100 000 GPU NVIDIA Blackwell, ce qui représente une avancée majeure pour les capacités de calcul de l'entreprise.

Le cluster utilise un total de 131 072 cartes d'accélérateur GPU B200, pouvant atteindre des performances maximales en virgule flottante FP8 et en calculs INT8 jusqu'à 2,4 ZFlops, soit 24 billions d'opérations par seconde.

Les nœuds de base sont des boîtiers NVIDIA GB200 NVL72 refroidis par liquide, chacun contenant 72 cartes d'accélérateur GPU intégrées. Ces boîtiers sont interconnectés via le bus de bande passante NVLink de 129,6 TB/s.

Bien que ces chiffres soient impressionnants, il est important de noter que cette configuration n'a pas encore été pleinement testée en conditions réelles. Néanmoins, l'annonce est prometteuse, surtout qu'Oracle affirme que NVIDIA ne livrera pas de GPU Blackwell en grande quantité avant le début de l'année prochaine. Aucune date de lancement spécifique n'a encore été communiquée pour ce cluster massif.

Un deuxième cluster est équipé de 16 384 GPU NVIDIA H100, avec des performances maximales FP8/INT8 de 65 PFlops (650 millions d'opérations par seconde) et un débit de bande passante total de 13 Pbps.

Le troisième cluster comprend 65 536 GPU NVIDIA H200, offrant des performances maximales FP8/INT8 de 260 EFlops (2,6 billions d'opérations par seconde) et un débit de bande passante total de 52 Pbps. Ce cluster devrait être en service d'ici la fin de l'année.

Des organisations telles que WideLabs et Zoom ont déjà commencé à adopter les nouveaux services de clustering d'Oracle.