NVIDIA H100 PCIe vs NVIDIA L40

VS

NVIDIA H100 PCIe NVIDIA L40

AI GPU Comparamos una GPU de : 80GB VRAM H100 PCIe y una GPU de mercado profesional: 48GB VRAM L40 para ver qué GPU tiene un mejor rendimiento en especificaciones clave, pruebas de referencia, consumo de energía, etc.

Principales Diferencias

NVIDIA H100 PCIe Ventajas de

Más VRAM (80GB vs 48GB)

Mayor ancho de banda de VRAM (2039GB/s vs 864.0GB/s)

NVIDIA L40 Ventajas de

Lanzado 7 meses tarde

Reloj de impulso ha aumentado en un 42% (2490MHz vs 1755MHz)

3584 núcleos de renderizado adicionales

Menor TDP (300W vs 350W)

Puntuación

Prueba de rendimiento

FP32 (flotante)

H100 PCIe

51.22 TFLOPS

L40 +76%

90.52 TFLOPS

Blender

H100 PCIe

4845

L40 +95%

9486

H100 PCIe

VS

L40

Tarjeta gráfica

mar. 2022

Fecha de lanzamiento

oct. 2022

Tesla Hopper

Generación

Tesla Ada

AI GPU

Tipo

Profesional

PCIe 5.0 x16

Interfaz de bus

PCIe 4.0 x16

Velocidades de reloj

1095 MHz

Reloj base

735 MHz

1755 MHz

Reloj de impulso

2490 MHz

1593 MHz

Reloj de memoria

2250 MHz

Memoria

80GB

Tamaño de memoria

48GB

HBM2e

Tipo de memoria

GDDR6

5120bit

Bus de memoria

384bit

2039GB/s

Ancho de banda

864.0GB/s

Config. renderizado

114

Cuenta de SM

142

-

Unidades de cálculo

-

14592

Unidades de sombreado

18176

456

TMUs

568

24

ROPs

192

456

Núcleos tensor

568

-

Núcleos RT

142

256 KB (per SM)

Caché L1

128 KB (per SM)

50 MB

Caché L2

96 MB

Rendimiento teórico

42.12 GPixel/s

Tasa de píxeles

478.1 GPixel/s

800.3 GTexel/s

Tasa de texturas

1414 GTexel/s

204.9 TFLOPS

FP16 (mitad)

90.52 TFLOPS

51.22 TFLOPS

FP32 (flotante)

90.52 TFLOPS

25.61 TFLOPS

FP64 (doble)

1414 GFLOPS

Procesador gráfico

GH100

Nombre GPU

AD102

-

Variante GPU

AD102-895-A1

Hopper

Arquitectura

Ada Lovelace

TSMC

Fundición

TSMC

4 nm

Tamaño proceso

4 nm

80 mil millones

Transistores

76.3 mil millones

814 mm²

Tamaño de dado

608 mm²

Diseño de placa

350W

TDP

300W

750 W

PSU sugerida

700 W

No outputs

Salidas

4x DisplayPort 1.4a

1x 16-pin

Conectores de alimentación

1x 16-pin

Funciones gráficas

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Modelo de sombreado

6.6

Comparaciones de GPU relacionadas

1

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

2

NVIDIA H100 PCIe vs NVIDIA RTX A6000

3

NVIDIA H100 PCIe vs NVIDIA L4

4

NVIDIA Tesla P100 PCIe 16 GB vs NVIDIA H100 PCIe

5

AMD Radeon Instinct MI300 vs NVIDIA H100 PCIe

6

NVIDIA L40 vs NVIDIA L40S

7

NVIDIA RTX A6000 vs NVIDIA L40

8

NVIDIA H100 PCIe vs NVIDIA A100 SXM4 40 GB

9

NVIDIA H100 PCIe vs NVIDIA A800 SXM4 80 GB

10

NVIDIA H100 PCIe vs NVIDIA H100 CNX