H200 SXM vs NVIDIA A100 PCIe

VS

H200 SXM NVIDIA A100 PCIe

AI GPUAI GPU Nous avons comparé deux GPUs : 141GB VRAM H200 SXM et 40GB VRAM A100 PCIe pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.

Différences principales

H200 SXM Avantages de

Sorti avec un retard de 3 an(s) et 5 mois

Horloge Boost a augmenté de 40% (1980MHz vs 1410MHz)

Plus de VRAM (141GB vs 40GB)

Bande passante VRAM plus élevée (4800GB/s vs 1555GB/s)

9984 cœurs de rendu supplémentaires

NVIDIA A100 PCIe Avantages de

Consommation d'énergie plus faible (250W vs 700W)

Score

Benchmark

FP32 (flottant)

H200 SXM +243%

67 TFLOPS

A100 PCIe

19.49 TFLOPS

H200 SXM

VS

A100 PCIe

Carte graphique

nov. 2023

Date de sortie

juin 2020

Hopper

Génération

Tesla

AI GPU

Type

AI GPU

PCIe 5.0 x16

Interface de bus

PCIe 4.0 x16

Vitesses d'horloge

1590 MHz

Horloge de base

765 MHz

1980 MHz

Horloge Boost

1410 MHz

1313 MHz

Horloge Mémoire

1215 MHz

Mémoire

141GB

Taille de Mémoire

40GB

HBM3e

Type de Mémoire

HBM2e

5120bit

Bus de Mémoire

5120bit

4800GB/s

Bande Passante

1555GB/s

Config de rendu

132

Nombre de SM

108

-

Unités de calcul

-

16896

Unités d'Ombrage

6912

528

TMUs

432

24

ROPs

160

528

Cœurs de Tensor

432

-

Cœurs RT

-

256 KB (per SM)

Cache L1

192 KB (per SM)

50 MB

Cache L2

40 MB

Performance théorique

47.52 GPixel/s

Taux de Pixel

225.6 GPixel/s

1045 GTexel/s

Taux de Texture

609.1 GTexel/s

1979 TFLOPS

FP16 (demi)

77.97 TFLOPS

67 TFLOPS

FP32 (flottant)

19.49 TFLOPS

34 TFLOPS

FP64 (double précision)

9.746 TFLOPS

Processeur graphique

GH200

Nom du GPU

GA100

-

Variante de GPU

-

Hopper

Architecture

Ampere

TSMC

Fonderie

TSMC

4 nm

Taille de processus

7 nm

80 milliard

Transistors

54.2 milliard

814 mm²

Taille de Die

826 mm²

Conception de carte

700W

TDP

250W

1100 W

Alimentation suggérée

600 W

No outputs

Sorties

No outputs

8-pin EPS

Connecteurs d'alimentation

8-pin EPS

Fonctions graphiques

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Modèle de shader

N/A

Comparaisons GPU liées

1

H200 SXM vs AMD Instinct MI300X

2

H200 SXM vs NVIDIA GeForce RTX 4090 Ti

3

AMD Radeon Instinct MI300 vs H200 SXM

4

NVIDIA H100 PCIe vs H200 SXM

5

H200 SXM vs NVIDIA L40S

6

H200 SXM vs NVIDIA H100 SXM5

7

H200 SXM vs NVIDIA H100 PCIe 80 GB

8

H200 SXM vs NVIDIA A100 SXM4 80 GB

9

H200 SXM vs NVIDIA H100 PCIe 96 GB

10

H200 SXM vs NVIDIA H100 SXM5 80 GB