NVIDIA H100 PCIe vs NVIDIA A100 PCIe

VS

NVIDIA H100 PCIe NVIDIA A100 PCIe

AI GPUAI GPU Comparamos dos GPUs de : 80GB VRAM H100 PCIe y 40GB VRAM A100 PCIe para ver qué GPU tiene un mejor rendimiento en especificaciones clave, pruebas de referencia, consumo de energía, etc.

Principales Diferencias

NVIDIA H100 PCIe Ventajas de

Lanzado 1 años y 9 meses tarde

Reloj de impulso ha aumentado en un 24% (1755MHz vs 1410MHz)

Más VRAM (80GB vs 40GB)

Mayor ancho de banda de VRAM (2039GB/s vs 1555GB/s)

7680 núcleos de renderizado adicionales

NVIDIA A100 PCIe Ventajas de

Menor TDP (250W vs 350W)

Puntuación

Prueba de rendimiento

FP32 (flotante)

H100 PCIe +162%

51.22 TFLOPS

A100 PCIe

19.49 TFLOPS

H100 PCIe

VS

A100 PCIe

Tarjeta gráfica

mar. 2022

Fecha de lanzamiento

jun. 2020

Tesla Hopper

Generación

Tesla

AI GPU

Tipo

AI GPU

PCIe 5.0 x16

Interfaz de bus

PCIe 4.0 x16

Velocidades de reloj

1095 MHz

Reloj base

765 MHz

1755 MHz

Reloj de impulso

1410 MHz

1593 MHz

Reloj de memoria

1215 MHz

Memoria

80GB

Tamaño de memoria

40GB

HBM2e

Tipo de memoria

HBM2e

5120bit

Bus de memoria

5120bit

2039GB/s

Ancho de banda

1555GB/s

Config. renderizado

114

Cuenta de SM

108

-

Unidades de cálculo

-

14592

Unidades de sombreado

6912

456

TMUs

432

24

ROPs

160

456

Núcleos tensor

432

-

Núcleos RT

-

256 KB (per SM)

Caché L1

192 KB (per SM)

50 MB

Caché L2

40 MB

Rendimiento teórico

42.12 GPixel/s

Tasa de píxeles

225.6 GPixel/s

800.3 GTexel/s

Tasa de texturas

609.1 GTexel/s

204.9 TFLOPS

FP16 (mitad)

77.97 TFLOPS

51.22 TFLOPS

FP32 (flotante)

19.49 TFLOPS

25.61 TFLOPS

FP64 (doble)

9.746 TFLOPS

Procesador gráfico

GH100

Nombre GPU

GA100

-

Variante GPU

-

Hopper

Arquitectura

Ampere

TSMC

Fundición

TSMC

4 nm

Tamaño proceso

7 nm

80 mil millones

Transistores

54.2 mil millones

814 mm²

Tamaño de dado

826 mm²

Diseño de placa

350W

TDP

250W

750 W

PSU sugerida

600 W

No outputs

Salidas

No outputs

1x 16-pin

Conectores de alimentación

8-pin EPS

Funciones gráficas

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Modelo de sombreado

N/A

Comparaciones de GPU relacionadas

1

NVIDIA H100 PCIe vs NVIDIA RTX A6000

2

NVIDIA H100 PCIe vs NVIDIA L4

3

NVIDIA L40 vs NVIDIA H100 PCIe

4

AMD Radeon Instinct MI300 vs NVIDIA H100 PCIe

5

NVIDIA Tesla P100 PCIe 16 GB vs NVIDIA H100 PCIe

6

NVIDIA L4 vs NVIDIA A100 PCIe

7

NVIDIA Tesla T4 vs NVIDIA A100 PCIe

8

NVIDIA H100 PCIe vs NVIDIA H100 CNX

9

NVIDIA H100 PCIe vs NVIDIA H100 SXM5

10

NVIDIA H100 PCIe vs NVIDIA A100 PCIe