NVIDIA H100 PCIe 80 GB vs NVIDIA GeForce RTX 4090

VS

NVIDIA H100 PCIe 80 GB NVIDIA GeForce RTX 4090

AI GPU Comparamos una GPU de : 80GB VRAM H100 PCIe 80 GB y una GPU de plataforma de escritorio: 24GB VRAM GeForce RTX 4090 para ver qué GPU tiene un mejor rendimiento en especificaciones clave, pruebas de referencia, consumo de energía, etc.

Principales Diferencias

NVIDIA H100 PCIe 80 GB Ventajas de

Lanzado 6 meses tarde

Más VRAM (80GB vs 24GB)

Mayor ancho de banda de VRAM (2039GB/s vs 1008GB/s)

Menor TDP (350W vs 450W)

NVIDIA GeForce RTX 4090 Ventajas de

Reloj de impulso ha aumentado en un 44% (2520MHz vs 1755MHz)

1792 núcleos de renderizado adicionales

Puntuación

Prueba de rendimiento

FP32 (flotante)

H100 PCIe 80 GB

51.22 TFLOPS

GeForce RTX 4090 +61%

82.58 TFLOPS

H100 PCIe 80 GB

VS

GeForce RTX 4090

Tarjeta gráfica

mar 2023

Fecha de lanzamiento

sept 2022

Tesla Hopper

Generación

GeForce 40

AI GPU

Tipo

Escritorio

PCIe 5.0 x16

Interfaz de bus

PCIe 4.0 x16

Velocidades de reloj

1095 MHz

Reloj base

2235 MHz

1755 MHz

Reloj de impulso

2520 MHz

1593 MHz

Reloj de memoria

1313 MHz

Memoria

80GB

Tamaño de memoria

24GB

HBM2e

Tipo de memoria

GDDR6X

5120bit

Bus de memoria

384bit

2039GB/s

Ancho de banda

1008GB/s

Config. renderizado

114

Cuenta de SM

128

-

Unidades de cálculo

-

14592

Unidades de sombreado

16384

456

TMUs

512

24

ROPs

176

456

Núcleos tensor

512

-

Núcleos RT

128

256 KB (per SM)

Caché L1

128 KB (per SM)

50 MB

Caché L2

72 MB

Rendimiento teórico

42.12 GPixel/s

Tasa de píxeles

443.5 GPixel/s

800.3 GTexel/s

Tasa de texturas

1290 GTexel/s

204.9 TFLOPS

FP16 (mitad)

82.58 TFLOPS

51.22 TFLOPS

FP32 (flotante)

82.58 TFLOPS

25.61 TFLOPS

FP64 (doble)

1290 GFLOPS

Procesador gráfico

GH100

Nombre GPU

AD102

-

Variante GPU

AD102-300-A1

Hopper

Arquitectura

Ada Lovelace

TSMC

Fundición

TSMC

4 nm

Tamaño proceso

5 nm

80 mil millones

Transistores

76.3 mil millones

814 mm²

Tamaño de dado

609 mm²

Diseño de placa

350W

TDP

450W

750 W

PSU sugerida

850 W

No outputs

Salidas

1x HDMI 2.1 3x DisplayPort 1.4a

1x 16-pin

Conectores de alimentación

1x 16-pin

Funciones gráficas

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Modelo de sombreado

6.7

Comparaciones de GPU relacionadas

1

H200 SXM vs NVIDIA H100 PCIe 80 GB

2

NVIDIA L40S vs NVIDIA H100 PCIe 80 GB

3

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 80 GB

4

NVIDIA RTX A6000 vs NVIDIA H100 PCIe 80 GB

5

NVIDIA H100 PCIe 80 GB vs NVIDIA A100 PCIe 80 GB

6

NVIDIA GeForce RTX 4090 vs NVIDIA A100 PCIe 80 GB

7

NVIDIA GeForce RTX 4090 vs NVIDIA Tesla V100 PCIe 32 GB

8

NVIDIA H100 PCIe 80 GB vs NVIDIA A100 SXM4 40 GB

9

NVIDIA H100 PCIe 80 GB vs NVIDIA A800 SXM4 80 GB

10

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 96 GB