AMD Instinct MI300A vs NVIDIA H100 SXM5 80 GB

VS

AMD Instinct MI300A NVIDIA H100 SXM5 80 GB

AI GPU Nous avons comparé un GPU Marché professionnel: 128GB VRAM AMD Instinct MI300A et un GPU : 80GB VRAM H100 SXM5 80 GB pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.

Différences principales

AMD Instinct MI300A Avantages de

Sorti avec un retard de 9 mois

Horloge Boost a augmenté de 6% (2100MHz vs 1980MHz)

Plus de VRAM (128GB vs 80GB)

Bande passante VRAM plus élevée (5300GB/s vs 1681GB/s)

NVIDIA H100 SXM5 80 GB Avantages de

2304 cœurs de rendu supplémentaires

Consommation d'énergie plus faible (700W vs 760W)

Score

Benchmark

FP32 (flottant)

AMD Instinct MI300A +83%

122.6 TFLOPS

H100 SXM5 80 GB

66.91 TFLOPS

AMD Instinct MI300A

VS

H100 SXM5 80 GB

Carte graphique

déc. 2023

Date de sortie

mars 2023

Instinct

Génération

Tesla Hopper

Professionnel

Type

AI GPU

PCIe 5.0 x16

Interface de bus

PCIe 5.0 x16

Vitesses d'horloge

1000 MHz

Horloge de base

1590 MHz

2100 MHz

Horloge Boost

1980 MHz

5200 MHz

Horloge Mémoire

1313 MHz

Mémoire

128GB

Taille de Mémoire

80GB

HBM3

Type de Mémoire

HBM3

8192bit

Bus de Mémoire

5120bit

5300GB/s

Bande Passante

1681GB/s

Config de rendu

-

Nombre de SM

132

228

Unités de calcul

-

14592

Unités d'Ombrage

16896

880

TMUs

528

0

ROPs

24

-

Cœurs de Tensor

528

-

Cœurs RT

-

16 KB (per CU)

Cache L1

256 KB (per SM)

16 MB

Cache L2

50 MB

Performance théorique

0 MPixel/s

Taux de Pixel

47.52 GPixel/s

1496 GTexel/s

Taux de Texture

1045 GTexel/s

980.6 TFLOPS

FP16 (demi)

267.6 TFLOPS

122.6 TFLOPS

FP32 (flottant)

66.91 TFLOPS

61.3 TFLOPS

FP64 (double précision)

33.45 TFLOPS

Processeur graphique

MI300

Nom du GPU

GH100

-

Variante de GPU

-

CDNA 3.0

Architecture

Hopper

TSMC

Fonderie

TSMC

5 nm

Taille de processus

4 nm

146 milliard

Transistors

80 milliard

1017 mm²

Taille de Die

814 mm²

Conception de carte

760W

TDP

700W

1000 W

Alimentation suggérée

1100 W

No outputs

Sorties

No outputs

None

Connecteurs d'alimentation

8-pin EPS

Fonctions graphiques

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

9.0

N/A

Modèle de shader

N/A

Comparaisons GPU liées

1

AMD Instinct MI300A vs AMD Instinct MI300X

2

AMD Instinct MI300A vs NVIDIA Tesla K20s

3

AMD Instinct MI300A vs Intel Data Center GPU Max 1350

4

AMD Instinct MI300A vs NVIDIA Quadro Plex 2100 D4

5

NVIDIA Tesla M4 vs AMD Instinct MI300A

6

AMD Instinct MI300A vs NVIDIA Tesla T10 Processor

7

NVIDIA H800 SXM5 vs NVIDIA H100 SXM5 80 GB

8

AMD Instinct MI300A vs NVIDIA Tesla V100S PCIe 32 GB

9

AMD Instinct MI300A vs NVIDIA Quadro FX 2700M

10

AMD Instinct MI300A vs NVIDIA L40S