NVIDIA H200 NVL vs NVIDIA RTX 3500 Embedded Ada Generation
Comparamos dos GPUs de plataforma de escritorio: 141GB VRAM H200 NVL y 12GB VRAM RTX 3500 Embedded Ada Generation para ver qué GPU tiene un mejor rendimiento en especificaciones clave, pruebas de referencia, consumo de energía, etc.
Principales Diferencias
NVIDIA H200 NVL Ventajas de
Lanzado 1 años y 8 meses tarde
Más VRAM (141GB vs 12GB)
Mayor ancho de banda de VRAM (4.89TB/s vs 432.0GB/s)
11776 núcleos de renderizado adicionales
NVIDIA RTX 3500 Embedded Ada Generation Ventajas de
Reloj de impulso ha aumentado en un 26% (2250MHz vs 1785MHz)
Menor TDP (100W vs 600W)
Puntuación
Prueba de rendimiento
FP32 (flotante)
H200 NVL
+161%
60.32 TFLOPS
RTX 3500 Embedded Ada Generation
23.04 TFLOPS
Tarjeta gráfica
nov 2024
Fecha de lanzamiento
mar 2023
Server Hopper
Generación
Quadro Ada-M
Escritorio
Tipo
Escritorio
PCIe 5.0 x16
Interfaz de bus
PCIe 4.0 x16
Velocidades de reloj
1365 MHz
Reloj base
1725 MHz
1785 MHz
Reloj de impulso
2250 MHz
1593 MHz
Reloj de memoria
2250 MHz
Memoria
141GB
Tamaño de memoria
12GB
HBM3e
Tipo de memoria
GDDR6
6144bit
Bus de memoria
192bit
4.89TB/s
Ancho de banda
432.0GB/s
Config. renderizado
-
-
-
132
Cuenta de SM
40
16896
Unidades de sombreado
5120
528
TMUs
160
24
ROPs
64
528
Núcleos tensor
160
-
Núcleos RT
40
256 KB (per SM)
Caché L1
128 KB (per SM)
50 MB
Caché L2
48 MB
-
-
-
Rendimiento teórico
42.84 GPixel/s
Tasa de píxeles
144.0 GPixel/s
942.5 GTexel/s
Tasa de texturas
360.0 GTexel/s
241.3 TFLOPS
FP16 (mitad)
23.04 TFLOPS
60.32 TFLOPS
FP32 (flotante)
23.04 TFLOPS
30.16 TFLOPS
FP64 (doble)
360.0 GFLOPS
Diseño de placa
600W
TDP
100W
1000 W
PSU sugerida
300 W
No outputs
Salidas
No outputs
8-pin EPS
Conectores de alimentación
None
Procesador gráfico
GH100
Nombre GPU
AD104
-
-
-
Hopper
Arquitectura
Ada Lovelace
TSMC
Fundición
TSMC
5 nm
Tamaño proceso
5 nm
80 mil millones
Transistores
35.8 mil millones
814 mm²
Tamaño de dado
294 mm²
Funciones gráficas
N/A
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
3.0
OpenCL
3.0
N/A
Vulkan
1.3
9.0
CUDA
8.9
N/A
Modelo de sombreado
6.7
