NVIDIA H100 SXM5 64 GB vs NVIDIA Tesla K40st

VS

NVIDIA H100 SXM5 64 GB NVIDIA Tesla K40st

AI GPU Nous avons comparé un GPU : 64GB VRAM H100 SXM5 64 GB et un GPU Marché professionnel: 12GB VRAM Tesla K40st pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.

Différences principales

NVIDIA H100 SXM5 64 GB Avantages de

Sorti avec un retard de 9 an(s) et 4 mois

Horloge Boost1980MHz

Plus de VRAM (64GB vs 12GB)

Bande passante VRAM plus élevée (1008GB/s vs 288.4GB/s)

14016 cœurs de rendu supplémentaires

NVIDIA Tesla K40st Avantages de

Consommation d'énergie plus faible (245W vs 700W)

Score

Benchmark

FP32 (flottant)

H100 SXM5 64 GB +1920%

66.91 TFLOPS

Tesla K40st

3.312 TFLOPS

H100 SXM5 64 GB

VS

Tesla K40st

Carte graphique

mars 2023

Date de sortie

nov. 2013

Tesla Hopper

Génération

Tesla

AI GPU

Type

Professionnel

PCIe 5.0 x16

Interface de bus

PCIe 3.0 x16

Vitesses d'horloge

1665 MHz

Horloge de base

-

1980 MHz

Horloge Boost

-

1313 MHz

Horloge Mémoire

1502 MHz

Mémoire

64GB

Taille de Mémoire

12GB

HBM3

Type de Mémoire

GDDR5

3072bit

Bus de Mémoire

384bit

1008GB/s

Bande Passante

288.4GB/s

Config de rendu

132

Nombre de SM

-

Unités de calcul

-

16896

Unités d'Ombrage

2880

528

TMUs

240

24

ROPs

48

528

Cœurs de Tensor

-

Cœurs RT

-

256 KB (per SM)

Cache L1

16 KB (per SMX)

50 MB

Cache L2

1536 KB

Performance théorique

47.52 GPixel/s

Taux de Pixel

34.50 GPixel/s

1045 GTexel/s

Taux de Texture

138.0 GTexel/s

267.6 TFLOPS

FP16 (demi)

-

66.91 TFLOPS

FP32 (flottant)

3.312 TFLOPS

33.45 TFLOPS

FP64 (double précision)

1104 GFLOPS

Processeur graphique

GH100

Nom du GPU

GK110B

-

Variante de GPU

-

Hopper

Architecture

Kepler

TSMC

Fonderie

TSMC

4 nm

Taille de processus

28 nm

80 milliard

Transistors

7.08 milliard

814 mm²

Taille de Die

561 mm²

Conception de carte

700W

TDP

245W

1100 W

Alimentation suggérée

550 W

No outputs

Sorties

No outputs

8-pin EPS

Connecteurs d'alimentation

-

Fonctions graphiques

N/A

DirectX

12 (11_1)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.1

9.0

CUDA

3.5

N/A

Modèle de shader

5.1

Comparaisons GPU liées

1

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 64 GB

2

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 64 GB

3

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 96 GB

4

Intel Data Center GPU Max 1100 vs NVIDIA H100 SXM5 64 GB

5

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 64 GB

6

NVIDIA Tesla K20s vs NVIDIA H100 SXM5 64 GB

7

NVIDIA Quadro M2200 Mobile vs NVIDIA H100 SXM5 64 GB

8

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 SXM5

9

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 96 GB

10

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 PCIe 40 GB