NVIDIA H100 PCIe vs NVIDIA L40

VS

NVIDIA H100 PCIe NVIDIA L40

AI GPU Abbiamo confrontato una GPU : 80GB VRAM H100 PCIe e una GPU Mercato professionale: 48GB VRAM L40 per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

NVIDIA H100 PCIe Vantaggi

Più VRAM (80GB vs 48GB)

Banda VRAM più elevata (2039GB/s vs 864.0GB/s)

NVIDIA L40 Vantaggi

Rilasciato 7 mesi in ritardo

Boost Clock è aumentato del 42% (2490MHz vs 1755MHz)

3584 core di rendering aggiuntivi

Potenza termica inferiore (300W vs 350W)

Punteggio

Benchmark

FP32 (virgola mobile)

H100 PCIe

51.22 TFLOPS

L40 +76%

90.52 TFLOPS

Blender

H100 PCIe

4845

L40 +95%

9486

H100 PCIe

VS

L40

Scheda grafica

mar 2022

Data di rilascio

ott 2022

Tesla Hopper

Generazione

Tesla Ada

AI GPU

Tipo

Professional

PCIe 5.0 x16

Interfaccia bus

PCIe 4.0 x16

Velocità di clock

1095 MHz

Clock base

735 MHz

1755 MHz

Boost Clock

2490 MHz

1593 MHz

Clock memoria

2250 MHz

Memoria

80GB

Dimensione memoria

48GB

HBM2e

Tipo di memoria

GDDR6

5120bit

Bus memoria

384bit

2039GB/s

Larghezza di banda

864.0GB/s

Configurazione del rendering

114

Conteggio SM

142

-

Unità di calcolo

-

14592

Unità di ombreggiatura

18176

456

TMUs

568

24

ROPs

192

456

Core Tensor

568

-

Core RT

142

256 KB (per SM)

Cache L1

128 KB (per SM)

50 MB

Cache L2

96 MB

Prestazioni teoriche

42.12 GPixel/s

Tasso di pixel

478.1 GPixel/s

800.3 GTexel/s

Tasso di texture

1414 GTexel/s

204.9 TFLOPS

FP16 (metà)

90.52 TFLOPS

51.22 TFLOPS

FP32 (float)

90.52 TFLOPS

25.61 TFLOPS

FP64 (doppio)

1414 GFLOPS

Processore grafico

GH100

Nome GPU

AD102

-

Variante GPU

AD102-895-A1

Hopper

Architettura

Ada Lovelace

TSMC

Fonderia

TSMC

4 nm

Dimensione del processo

4 nm

80 miliardo

Transistor

76.3 miliardo

814 mm²

Dimensione del dado

608 mm²

Design della scheda

350W

TDP

300W

750 W

PSU suggerito

700 W

No outputs

Uscite

4x DisplayPort 1.4a

1x 16-pin

Connettori di alimentazione

1x 16-pin

Funzionalità grafiche

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Modello Shader

6.6

Confronti GPU correlati

1

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

2

NVIDIA H100 PCIe vs NVIDIA RTX A6000

3

NVIDIA H100 PCIe vs NVIDIA L4

4

AMD Radeon Instinct MI300 vs NVIDIA H100 PCIe

5

NVIDIA Tesla P100 PCIe 16 GB vs NVIDIA H100 PCIe

6

NVIDIA L40 vs NVIDIA L40S

7

NVIDIA RTX A6000 vs NVIDIA L40

8

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 80 GB

9

NVIDIA H100 PCIe vs NVIDIA H800 SXM5

10

NVIDIA H100 PCIe vs NVIDIA A800 PCIe 40 GB