H200 SXM vs AMD Instinct MI300X

VS

H200 SXM AMD Instinct MI300X

AI GPU Nous avons comparé un GPU : 141GB VRAM H200 SXM et un GPU Marché professionnel: 192GB VRAM AMD Instinct MI300X pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.

Différences principales

H200 SXM Avantages de

Consommation d'énergie plus faible (700W vs 750W)

AMD Instinct MI300X Avantages de

Horloge Boost a augmenté de 6% (2100MHz vs 1980MHz)

Plus de VRAM (192GB vs 141GB)

Bande passante VRAM plus élevée (5300GB/s vs 4800GB/s)

2560 cœurs de rendu supplémentaires

Score

Benchmark

FP32 (flottant)

H200 SXM

67 TFLOPS

AMD Instinct MI300X +143%

163.4 TFLOPS

H200 SXM

VS

AMD Instinct MI300X

Carte graphique

nov. 2023

Date de sortie

déc. 2023

Hopper

Génération

Instinct

AI GPU

Type

Professionnel

PCIe 5.0 x16

Interface de bus

PCIe 5.0 x16

Vitesses d'horloge

1590 MHz

Horloge de base

1000 MHz

1980 MHz

Horloge Boost

2100 MHz

1313 MHz

Horloge Mémoire

5200 MHz

Mémoire

141GB

Taille de Mémoire

192GB

HBM3e

Type de Mémoire

HBM3

5120bit

Bus de Mémoire

8192bit

4800GB/s

Bande Passante

5300GB/s

Config de rendu

132

Nombre de SM

-

Unités de calcul

304

16896

Unités d'Ombrage

19456

528

TMUs

880

24

ROPs

0

528

Cœurs de Tensor

-

Cœurs RT

-

256 KB (per SM)

Cache L1

16 KB (per CU)

50 MB

Cache L2

16 MB

Performance théorique

47.52 GPixel/s

Taux de Pixel

0 MPixel/s

1045 GTexel/s

Taux de Texture

1496 GTexel/s

1979 TFLOPS

FP16 (demi)

1300 TFLOPS

67 TFLOPS

FP32 (flottant)

163.4 TFLOPS

34 TFLOPS

FP64 (double précision)

81.7 TFLOPS

Processeur graphique

GH200

Nom du GPU

MI300

-

Variante de GPU

-

Hopper

Architecture

CDNA 3.0

TSMC

Fonderie

TSMC

4 nm

Taille de processus

5 nm

80 milliard

Transistors

146 milliard

814 mm²

Taille de Die

1017 mm²

Conception de carte

700W

TDP

750W

1100 W

Alimentation suggérée

1000 W

No outputs

Sorties

No outputs

8-pin EPS

Connecteurs d'alimentation

None

Fonctions graphiques

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

-

N/A

Modèle de shader

N/A

Comparaisons GPU liées

1

H200 SXM vs NVIDIA GeForce RTX 4090 Ti

2

AMD Radeon Instinct MI300 vs H200 SXM

3

NVIDIA H100 PCIe vs H200 SXM

4

H200 SXM vs NVIDIA L40S

5

H200 SXM vs NVIDIA H100 SXM5

6

H200 SXM vs NVIDIA H100 PCIe 80 GB

7

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090 D

8

H200 SXM vs NVIDIA A800 PCIe 40 GB

9

H200 SXM vs NVIDIA H100 PCIe 96 GB

10

H200 SXM vs NVIDIA A800 PCIe 80 GB