NVIDIA H100 PCIe vs NVIDIA L4

VS

NVIDIA H100 PCIe NVIDIA L4

AI GPU Comparamos una GPU de : 80GB VRAM H100 PCIe y una GPU de mercado profesional: 24GB VRAM L4 para ver qué GPU tiene un mejor rendimiento en especificaciones clave, pruebas de referencia, consumo de energía, etc.

Principales Diferencias

NVIDIA H100 PCIe Ventajas de

Más VRAM (80GB vs 24GB)

Mayor ancho de banda de VRAM (2039GB/s vs 300.1GB/s)

7168 núcleos de renderizado adicionales

NVIDIA L4 Ventajas de

Lanzado 1 años tarde

Reloj de impulso ha aumentado en un 16% (2040MHz vs 1755MHz)

Menor TDP (72W vs 350W)

Puntuación

Prueba de rendimiento

FP32 (flotante)

H100 PCIe +69%

51.22 TFLOPS

L4

30.29 TFLOPS

H100 PCIe

VS

L4

Tarjeta gráfica

mar. 2022

Fecha de lanzamiento

mar. 2023

Tesla Hopper

Generación

Tesla Ada

AI GPU

Tipo

Profesional

PCIe 5.0 x16

Interfaz de bus

PCIe 4.0 x16

Velocidades de reloj

1095 MHz

Reloj base

795 MHz

1755 MHz

Reloj de impulso

2040 MHz

1593 MHz

Reloj de memoria

1563 MHz

Memoria

80GB

Tamaño de memoria

24GB

HBM2e

Tipo de memoria

GDDR6

5120bit

Bus de memoria

192bit

2039GB/s

Ancho de banda

300.1GB/s

Config. renderizado

114

Cuenta de SM

60

-

Unidades de cálculo

-

14592

Unidades de sombreado

7424

456

TMUs

240

24

ROPs

80

456

Núcleos tensor

240

-

Núcleos RT

60

256 KB (per SM)

Caché L1

128 KB (per SM)

50 MB

Caché L2

48 MB

Rendimiento teórico

42.12 GPixel/s

Tasa de píxeles

163.2 GPixel/s

800.3 GTexel/s

Tasa de texturas

489.6 GTexel/s

204.9 TFLOPS

FP16 (mitad)

30.29 TFLOPS

51.22 TFLOPS

FP32 (flotante)

30.29 TFLOPS

25.61 TFLOPS

FP64 (doble)

473.3 GFLOPS

Procesador gráfico

GH100

Nombre GPU

AD104

-

Variante GPU

AD104-???-A1

Hopper

Arquitectura

Ada Lovelace

TSMC

Fundición

TSMC

4 nm

Tamaño proceso

5 nm

80 mil millones

Transistores

35.8 mil millones

814 mm²

Tamaño de dado

294 mm²

Diseño de placa

350W

TDP

72W

750 W

PSU sugerida

250 W

No outputs

Salidas

No outputs

1x 16-pin

Conectores de alimentación

1x 16-pin

Funciones gráficas

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Modelo de sombreado

6.7

Comparaciones de GPU relacionadas

1

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

2

NVIDIA H100 PCIe vs NVIDIA RTX A6000

3

NVIDIA L40 vs NVIDIA H100 PCIe

4

AMD Radeon Instinct MI300 vs NVIDIA H100 PCIe

5

NVIDIA Tesla P100 PCIe 16 GB vs NVIDIA H100 PCIe

6

NVIDIA Tesla T4 vs NVIDIA L4

7

NVIDIA L4 vs NVIDIA Tesla V100 PCIe 32 GB

8

NVIDIA H100 PCIe vs NVIDIA H100 CNX

9

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 96 GB

10

NVIDIA H100 PCIe vs NVIDIA H100 SXM5