NVIDIA H100 CNX vs NVIDIA A100 PCIe

VS

NVIDIA H100 CNX NVIDIA A100 PCIe

AI GPUAI GPU Comparamos duas GPUs : 80GB de VRAM H100 CNX e 40GB de VRAM A100 PCIe para ver qual GPU possui melhor desempenho em especificações-chave, testes de referência, consumo de energia, etc.

Principais Diferenças

NVIDIA H100 CNX Vantagens

Lançado 2 anos e 9 meses atrasado

Relógio Boost aumentou em 31% (1845MHz vs 1410MHz)

Mais VRAM (80GB vs 40GB)

Maior largura de banda VRAM (2039GB/s vs 1555GB/s)

7680 núcleos adicionais de renderização

NVIDIA A100 PCIe Vantagens

TDP mais baixo (250W vs 350W)

Pontuação

Benchmark

FP32 (flutuante)

H100 CNX +176%

53.84 TFLOPS

A100 PCIe

19.49 TFLOPS

H100 CNX

VS

A100 PCIe

Placa de vídeo

mar. 2023

Data de Lançamento

jun. 2020

Tesla Hopper

Geração

Tesla

AI GPU

Tipo

AI GPU

PCIe 5.0 x16

Interface de Ônibus

PCIe 4.0 x16

Velocidades de Relógio

690 MHz

Relógio Base

765 MHz

1845 MHz

Relógio Boost

1410 MHz

1593 MHz

Relógio de Memória

1215 MHz

Memória

80GB

Tamanho da Memória

40GB

HBM2e

Tipo de Memória

HBM2e

5120bit

Barramento de Memória

5120bit

2039GB/s

Largura de Banda

1555GB/s

Configuração de Renderização

114

Contagem de SM

108

-

Unidades de Cálculo

-

14592

Unidades de Sombreamento

6912

456

TMUs

432

24

ROPs

160

456

Núcleos Tensor

432

-

Núcleos RT

-

256 KB (per SM)

Cache L1

192 KB (per SM)

50 MB

Cache L2

40 MB

Desempenho Teórico

44.28 GPixel/s

Taxa de Pixel

225.6 GPixel/s

@($"{Model.value}{Model.unit}")

Taxa de Textura

@($"{Model.value}{Model.unit}")

215.4 TFLOPS

FP16 (metade)

77.97 TFLOPS

53.84 TFLOPS

FP32 (flutuante)

19.49 TFLOPS

26.92 TFLOPS

FP64 (duplo)

9.746 TFLOPS

Processador Gráfico

GH100

Nome da GPU

GA100

-

Variante da GPU

-

Hopper

Arquitetura

Ampere

TSMC

Fundição

TSMC

4 nm

Tamanho do Processo

7 nm

80 bilhão

Transistores

54.2 bilhão

814 mm²

Tamanho do Die

826 mm²

Design da Placa

350W

TDP

250W

750 W

PSU Sugerido

600 W

No outputs

Saídas

No outputs

8-pin EPS

Conectores de Energia

8-pin EPS

Recursos Gráficos

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Modelo de Shader

N/A

Comparação de GPUs Relacionadas

1

NVIDIA H100 CNX vs NVIDIA Tesla V100 PCIe 32 GB

2

NVIDIA H100 CNX vs AMD Radeon Instinct MI250

3

NVIDIA H100 CNX vs NVIDIA RTX A6000

4

NVIDIA H100 CNX vs NVIDIA H100 SXM5

5

NVIDIA H100 CNX vs NVIDIA H100 PCIe

6

AMD Radeon Instinct MI300 vs NVIDIA H100 CNX

7

NVIDIA L4 vs NVIDIA A100 PCIe

8

NVIDIA H100 CNX vs NVIDIA H100 SXM5 64 GB

9

NVIDIA H100 CNX vs NVIDIA H800 SXM5

10

NVIDIA H100 CNX vs NVIDIA H100 SXM5 96 GB