NVIDIA H100 PCIe vs AMD Radeon Instinct MI300

VS

NVIDIA H100 PCIe AMD Radeon Instinct MI300

AI GPU Nous avons comparé un GPU : 80GB VRAM H100 PCIe et un GPU Marché professionnel: 128GB VRAM Radeon Instinct MI300 pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.

Différences principales

NVIDIA H100 PCIe Avantages de

Horloge Boost a augmenté de 3% (1755MHz vs 1700MHz)

512 cœurs de rendu supplémentaires

Consommation d'énergie plus faible (350W vs 600W)

AMD Radeon Instinct MI300 Avantages de

Sorti avec un retard de 10 mois

Plus de VRAM (128GB vs 80GB)

Bande passante VRAM plus élevée (3277GB/s vs 2039GB/s)

Score

Benchmark

FP32 (flottant)

H100 PCIe +6%

51.22 TFLOPS

Radeon Instinct MI300

47.87 TFLOPS

H100 PCIe

VS

Radeon Instinct MI300

Carte graphique

mars 2022

Date de sortie

janv. 2023

Tesla Hopper

Génération

Radeon Instinct

AI GPU

Type

Professionnel

PCIe 5.0 x16

Interface de bus

PCIe 5.0 x16

Vitesses d'horloge

1095 MHz

Horloge de base

1000 MHz

1755 MHz

Horloge Boost

1700 MHz

1593 MHz

Horloge Mémoire

1600 MHz

Mémoire

80GB

Taille de Mémoire

128GB

HBM2e

Type de Mémoire

HBM3

5120bit

Bus de Mémoire

8192bit

2039GB/s

Bande Passante

3277GB/s

Config de rendu

114

Nombre de SM

-

Unités de calcul

220

14592

Unités d'Ombrage

14080

456

TMUs

880

24

ROPs

0

456

Cœurs de Tensor

880

-

Cœurs RT

-

256 KB (per SM)

Cache L1

16 KB (per CU)

50 MB

Cache L2

16 MB

Performance théorique

42.12 GPixel/s

Taux de Pixel

0 MPixel/s

800.3 GTexel/s

Taux de Texture

1496 GTexel/s

204.9 TFLOPS

FP16 (demi)

383.0 TFLOPS

51.22 TFLOPS

FP32 (flottant)

47.87 TFLOPS

25.61 TFLOPS

FP64 (double précision)

47.87 TFLOPS

Processeur graphique

GH100

Nom du GPU

Aqua Vanjaram

-

Variante de GPU

-

Hopper

Architecture

CDNA 3.0

TSMC

Fonderie

TSMC

4 nm

Taille de processus

5 nm

80 milliard

Transistors

153 milliard

814 mm²

Taille de Die

1017 mm²

Conception de carte

350W

TDP

600W

750 W

Alimentation suggérée

1000 W

No outputs

Sorties

No outputs

1x 16-pin

Connecteurs d'alimentation

2x 8-pin

Fonctions graphiques

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

-

N/A

Modèle de shader

N/A

Comparaisons GPU liées

1

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

2

NVIDIA H100 PCIe vs NVIDIA RTX A6000

3

NVIDIA L40 vs NVIDIA H100 PCIe

4

NVIDIA H100 PCIe vs NVIDIA L4

5

NVIDIA Tesla P100 PCIe 16 GB vs NVIDIA H100 PCIe

6

AMD Radeon Instinct MI300 vs H200 SXM

7

AMD Radeon Instinct MI300 vs NVIDIA A100 PCIe

8

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 64 GB

9

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 80 GB

10

NVIDIA H100 PCIe vs H200 SXM