AMD Instinct MI300X vs NVIDIA H100 PCIe 80 GB

VS

AMD Instinct MI300X NVIDIA H100 PCIe 80 GB

AI GPU Nous avons comparé un GPU Marché professionnel: 192GB VRAM AMD Instinct MI300X et un GPU : 80GB VRAM H100 PCIe 80 GB pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.

Différences principales

AMD Instinct MI300X Avantages de

Sorti avec un retard de 9 mois

Horloge Boost a augmenté de 20% (2100MHz vs 1755MHz)

Plus de VRAM (192GB vs 80GB)

Bande passante VRAM plus élevée (5300GB/s vs 2039GB/s)

4864 cœurs de rendu supplémentaires

NVIDIA H100 PCIe 80 GB Avantages de

Consommation d'énergie plus faible (350W vs 750W)

Score

Benchmark

FP32 (flottant)

AMD Instinct MI300X +219%

163.4 TFLOPS

H100 PCIe 80 GB

51.22 TFLOPS

AMD Instinct MI300X

VS

H100 PCIe 80 GB

Carte graphique

déc. 2023

Date de sortie

mars 2023

Instinct

Génération

Tesla Hopper

Professionnel

Type

AI GPU

PCIe 5.0 x16

Interface de bus

PCIe 5.0 x16

Vitesses d'horloge

1000 MHz

Horloge de base

1095 MHz

2100 MHz

Horloge Boost

1755 MHz

5200 MHz

Horloge Mémoire

1593 MHz

Mémoire

192GB

Taille de Mémoire

80GB

HBM3

Type de Mémoire

HBM2e

8192bit

Bus de Mémoire

5120bit

5300GB/s

Bande Passante

2039GB/s

Config de rendu

-

Nombre de SM

114

304

Unités de calcul

-

19456

Unités d'Ombrage

14592

880

TMUs

456

0

ROPs

24

-

Cœurs de Tensor

456

-

Cœurs RT

-

16 KB (per CU)

Cache L1

256 KB (per SM)

16 MB

Cache L2

50 MB

Performance théorique

0 MPixel/s

Taux de Pixel

42.12 GPixel/s

1496 GTexel/s

Taux de Texture

800.3 GTexel/s

1300 TFLOPS

FP16 (demi)

204.9 TFLOPS

163.4 TFLOPS

FP32 (flottant)

51.22 TFLOPS

81.7 TFLOPS

FP64 (double précision)

25.61 TFLOPS

Processeur graphique

MI300

Nom du GPU

GH100

-

Variante de GPU

-

CDNA 3.0

Architecture

Hopper

TSMC

Fonderie

TSMC

5 nm

Taille de processus

4 nm

146 milliard

Transistors

80 milliard

1017 mm²

Taille de Die

814 mm²

Conception de carte

750W

TDP

350W

1000 W

Alimentation suggérée

750 W

No outputs

Sorties

No outputs

None

Connecteurs d'alimentation

1x 16-pin

Fonctions graphiques

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

9.0

N/A

Modèle de shader

N/A

Comparaisons GPU liées

1

H200 SXM vs AMD Instinct MI300X

2

AMD Instinct MI300A vs AMD Instinct MI300X

3

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090 D

4

NVIDIA GeForce RTX 4070 vs AMD Instinct MI300X

5

AMD Radeon Instinct MI8 vs AMD Instinct MI300X

6

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090

7

NVIDIA Tesla T4 vs AMD Instinct MI300X

8

AMD Instinct MI300X vs NVIDIA Quadro 6000 SDI

9

AMD Instinct MI300X vs NVIDIA RTX A1000 Mobile 6 GB

10

AMD Instinct MI300X vs NVIDIA Quadro P3000 Mobile