NVIDIA H100 PCIe vs NVIDIA L4

VS

NVIDIA H100 PCIe NVIDIA L4

AI GPU Abbiamo confrontato una GPU : 80GB VRAM H100 PCIe e una GPU Mercato professionale: 24GB VRAM L4 per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

NVIDIA H100 PCIe Vantaggi

Più VRAM (80GB vs 24GB)

Banda VRAM più elevata (2039GB/s vs 300.1GB/s)

7168 core di rendering aggiuntivi

NVIDIA L4 Vantaggi

Rilasciato 1 anni in ritardo

Boost Clock è aumentato del 16% (2040MHz vs 1755MHz)

Potenza termica inferiore (72W vs 350W)

Punteggio

Benchmark

FP32 (virgola mobile)

H100 PCIe +69%

51.22 TFLOPS

L4

30.29 TFLOPS

H100 PCIe

VS

L4

Scheda grafica

mar 2022

Data di rilascio

mar 2023

Tesla Hopper

Generazione

Tesla Ada

AI GPU

Tipo

Professional

PCIe 5.0 x16

Interfaccia bus

PCIe 4.0 x16

Velocità di clock

1095 MHz

Clock base

795 MHz

1755 MHz

Boost Clock

2040 MHz

1593 MHz

Clock memoria

1563 MHz

Memoria

80GB

Dimensione memoria

24GB

HBM2e

Tipo di memoria

GDDR6

5120bit

Bus memoria

192bit

2039GB/s

Larghezza di banda

300.1GB/s

Configurazione del rendering

114

Conteggio SM

60

-

Unità di calcolo

-

14592

Unità di ombreggiatura

7424

456

TMUs

240

24

ROPs

80

456

Core Tensor

240

-

Core RT

60

256 KB (per SM)

Cache L1

128 KB (per SM)

50 MB

Cache L2

48 MB

Prestazioni teoriche

42.12 GPixel/s

Tasso di pixel

163.2 GPixel/s

800.3 GTexel/s

Tasso di texture

489.6 GTexel/s

204.9 TFLOPS

FP16 (metà)

30.29 TFLOPS

51.22 TFLOPS

FP32 (float)

30.29 TFLOPS

25.61 TFLOPS

FP64 (doppio)

473.3 GFLOPS

Processore grafico

GH100

Nome GPU

AD104

-

Variante GPU

AD104-???-A1

Hopper

Architettura

Ada Lovelace

TSMC

Fonderia

TSMC

4 nm

Dimensione del processo

5 nm

80 miliardo

Transistor

35.8 miliardo

814 mm²

Dimensione del dado

294 mm²

Design della scheda

350W

TDP

72W

750 W

PSU suggerito

250 W

No outputs

Uscite

No outputs

1x 16-pin

Connettori di alimentazione

1x 16-pin

Funzionalità grafiche

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Modello Shader

6.7

Confronti GPU correlati

1

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

2

NVIDIA H100 PCIe vs NVIDIA RTX A6000

3

NVIDIA L40 vs NVIDIA H100 PCIe

4

NVIDIA Tesla P100 PCIe 16 GB vs NVIDIA H100 PCIe

5

AMD Radeon Instinct MI300 vs NVIDIA H100 PCIe

6

NVIDIA Tesla T4 vs NVIDIA L4

7

NVIDIA L4 vs NVIDIA Tesla V100 PCIe 32 GB

8

NVIDIA H100 PCIe vs NVIDIA H800 PCIe 80 GB

9

NVIDIA H100 PCIe vs NVIDIA H800 SXM5

10

NVIDIA H100 PCIe vs NVIDIA A100 SXM4 40 GB