NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 4090

VS

NVIDIA H100 PCIe 96 GB NVIDIA GeForce RTX 4090

AI GPU Comparamos una GPU de : 96GB VRAM H100 PCIe 96 GB y una GPU de plataforma de escritorio: 24GB VRAM GeForce RTX 4090 para ver qué GPU tiene un mejor rendimiento en especificaciones clave, pruebas de referencia, consumo de energía, etc.

Principales Diferencias

NVIDIA H100 PCIe 96 GB Ventajas de

Lanzado 6 meses tarde

Más VRAM (96GB vs 24GB)

Mayor ancho de banda de VRAM (1681GB/s vs 1008GB/s)

512 núcleos de renderizado adicionales

NVIDIA GeForce RTX 4090 Ventajas de

Reloj de impulso ha aumentado en un 37% (2520MHz vs 1837MHz)

Menor TDP (450W vs 700W)

Puntuación

Prueba de rendimiento

FP32 (flotante)

H100 PCIe 96 GB

62.08 TFLOPS

GeForce RTX 4090 +33%

82.58 TFLOPS

H100 PCIe 96 GB

VS

GeForce RTX 4090

Tarjeta gráfica

mar. 2023

Fecha de lanzamiento

sept. 2022

Tesla Hopper

Generación

GeForce 40

AI GPU

Tipo

Escritorio

PCIe 5.0 x16

Interfaz de bus

PCIe 4.0 x16

Velocidades de reloj

1665 MHz

Reloj base

2235 MHz

1837 MHz

Reloj de impulso

2520 MHz

1313 MHz

Reloj de memoria

1313 MHz

Memoria

96GB

Tamaño de memoria

24GB

HBM3

Tipo de memoria

GDDR6X

5120bit

Bus de memoria

384bit

1681GB/s

Ancho de banda

1008GB/s

Config. renderizado

132

Cuenta de SM

128

-

Unidades de cálculo

-

16896

Unidades de sombreado

16384

528

TMUs

512

24

ROPs

176

528

Núcleos tensor

512

-

Núcleos RT

128

256 KB (per SM)

Caché L1

128 KB (per SM)

50 MB

Caché L2

72 MB

Rendimiento teórico

44.09 GPixel/s

Tasa de píxeles

443.5 GPixel/s

969.9 GTexel/s

Tasa de texturas

1290 GTexel/s

248.3 TFLOPS

FP16 (mitad)

82.58 TFLOPS

62.08 TFLOPS

FP32 (flotante)

82.58 TFLOPS

31.04 TFLOPS

FP64 (doble)

1290 GFLOPS

Procesador gráfico

GH100

Nombre GPU

AD102

-

Variante GPU

AD102-300-A1

Hopper

Arquitectura

Ada Lovelace

TSMC

Fundición

TSMC

4 nm

Tamaño proceso

5 nm

80 mil millones

Transistores

76.3 mil millones

814 mm²

Tamaño de dado

609 mm²

Diseño de placa

700W

TDP

450W

1100 W

PSU sugerida

850 W

No outputs

Salidas

1x HDMI 2.1 3x DisplayPort 1.4a

8-pin EPS

Conectores de alimentación

1x 16-pin

Funciones gráficas

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Modelo de sombreado

6.7

Comparaciones de GPU relacionadas

1

NVIDIA RTX 6000 Ada Generation vs NVIDIA H100 PCIe 96 GB

2

NVIDIA L40S vs NVIDIA H100 PCIe 96 GB

3

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 6000 Ada

4

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 PCIe 96 GB

5

NVIDIA H100 SXM5 96 GB vs NVIDIA H100 PCIe 96 GB

6

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 80 GB

7

NVIDIA GeForce RTX 4090 vs NVIDIA A100 PCIe 80 GB

8

NVIDIA H100 PCIe 96 GB vs H200 SXM

9

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 PCIe 80 GB

10

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5