NVIDIA H100 CNX vs NVIDIA RTX A6000

VS

NVIDIA H100 CNX NVIDIA RTX A6000

AI GPU Comparamos una GPU de : 80GB VRAM H100 CNX y una GPU de mercado profesional: 48GB VRAM RTX A6000 para ver qué GPU tiene un mejor rendimiento en especificaciones clave, pruebas de referencia, consumo de energía, etc.

Principales Diferencias

NVIDIA H100 CNX Ventajas de

Lanzado 2 años y 5 meses tarde

Reloj de impulso ha aumentado en un 2% (1845MHz vs 1800MHz)

Más VRAM (80GB vs 48GB)

Mayor ancho de banda de VRAM (2039GB/s vs 768.0GB/s)

3840 núcleos de renderizado adicionales

NVIDIA RTX A6000 Ventajas de

Menor TDP (300W vs 350W)

Puntuación

Prueba de rendimiento

FP32 (flotante)

H100 CNX +39%

53.84 TFLOPS

RTX A6000

38.71 TFLOPS

H100 CNX

VS

RTX A6000

Tarjeta gráfica

mar 2023

Fecha de lanzamiento

oct 2020

Tesla Hopper

Generación

Quadro Ampere

AI GPU

Tipo

Profesional

PCIe 5.0 x16

Interfaz de bus

PCIe 4.0 x16

Velocidades de reloj

690 MHz

Reloj base

1410 MHz

1845 MHz

Reloj de impulso

1800 MHz

1593 MHz

Reloj de memoria

2000 MHz

Memoria

80GB

Tamaño de memoria

48GB

HBM2e

Tipo de memoria

GDDR6

5120bit

Bus de memoria

384bit

2039GB/s

Ancho de banda

768.0GB/s

Config. renderizado

114

Cuenta de SM

84

-

Unidades de cálculo

-

14592

Unidades de sombreado

10752

456

TMUs

336

24

ROPs

112

456

Núcleos tensor

336

-

Núcleos RT

84

256 KB (per SM)

Caché L1

128 KB (per SM)

50 MB

Caché L2

6 MB

Rendimiento teórico

44.28 GPixel/s

Tasa de píxeles

201.6 GPixel/s

841.3 GTexel/s

Tasa de texturas

604.8 GTexel/s

215.4 TFLOPS

FP16 (mitad)

38.71 TFLOPS

53.84 TFLOPS

FP32 (flotante)

38.71 TFLOPS

26.92 TFLOPS

FP64 (doble)

604.8 GFLOPS

Procesador gráfico

GH100

Nombre GPU

GA102

-

Variante GPU

-

Hopper

Arquitectura

Ampere

TSMC

Fundición

Samsung

4 nm

Tamaño proceso

8 nm

80 mil millones

Transistores

28.3 mil millones

814 mm²

Tamaño de dado

628 mm²

Diseño de placa

350W

TDP

300W

750 W

PSU sugerida

700 W

No outputs

Salidas

4x DisplayPort 1.4a

8-pin EPS

Conectores de alimentación

8-pin EPS

Funciones gráficas

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.6

N/A

Modelo de sombreado

6.7

Comparaciones de GPU relacionadas

1

NVIDIA H100 CNX vs NVIDIA Tesla V100 PCIe 32 GB

2

NVIDIA H100 CNX vs AMD Radeon Instinct MI250

3

NVIDIA H100 CNX vs NVIDIA H100 SXM5

4

NVIDIA H100 CNX vs NVIDIA A100 PCIe

5

AMD Radeon Instinct MI300 vs NVIDIA H100 CNX

6

NVIDIA GRID RTX T10 8 vs NVIDIA H100 CNX

7

NVIDIA GeForce RTX 4090 vs NVIDIA RTX A6000

8

NVIDIA H100 CNX vs NVIDIA H100 SXM5

9

NVIDIA H100 CNX vs NVIDIA H100 SXM5 96 GB

10

NVIDIA H100 CNX vs NVIDIA A800 SXM4 80 GB