NVIDIA H100 PCIe vs NVIDIA A100 PCIe

VS

NVIDIA H100 PCIe NVIDIA A100 PCIe

AI GPUAI GPU Abbiamo confrontato due GPU : 80GB VRAM H100 PCIe e 40GB VRAM A100 PCIe per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

NVIDIA H100 PCIe Vantaggi

Rilasciato 1 anni e 9 mesi in ritardo

Boost Clock è aumentato del 24% (1755MHz vs 1410MHz)

Più VRAM (80GB vs 40GB)

Banda VRAM più elevata (2039GB/s vs 1555GB/s)

7680 core di rendering aggiuntivi

NVIDIA A100 PCIe Vantaggi

Potenza termica inferiore (250W vs 350W)

Punteggio

Benchmark

FP32 (virgola mobile)

H100 PCIe +162%

51.22 TFLOPS

A100 PCIe

19.49 TFLOPS

H100 PCIe

VS

A100 PCIe

Scheda grafica

mar 2022

Data di rilascio

giu 2020

Tesla Hopper

Generazione

Tesla

AI GPU

Tipo

AI GPU

PCIe 5.0 x16

Interfaccia bus

PCIe 4.0 x16

Velocità di clock

1095 MHz

Clock base

765 MHz

1755 MHz

Boost Clock

1410 MHz

1593 MHz

Clock memoria

1215 MHz

Memoria

80GB

Dimensione memoria

40GB

HBM2e

Tipo di memoria

HBM2e

5120bit

Bus memoria

5120bit

2039GB/s

Larghezza di banda

1555GB/s

Configurazione del rendering

114

Conteggio SM

108

-

Unità di calcolo

-

14592

Unità di ombreggiatura

6912

456

TMUs

432

24

ROPs

160

456

Core Tensor

432

-

Core RT

-

256 KB (per SM)

Cache L1

192 KB (per SM)

50 MB

Cache L2

40 MB

Prestazioni teoriche

42.12 GPixel/s

Tasso di pixel

225.6 GPixel/s

800.3 GTexel/s

Tasso di texture

609.1 GTexel/s

204.9 TFLOPS

FP16 (metà)

77.97 TFLOPS

51.22 TFLOPS

FP32 (float)

19.49 TFLOPS

25.61 TFLOPS

FP64 (doppio)

9.746 TFLOPS

Processore grafico

GH100

Nome GPU

GA100

-

Variante GPU

-

Hopper

Architettura

Ampere

TSMC

Fonderia

TSMC

4 nm

Dimensione del processo

7 nm

80 miliardo

Transistor

54.2 miliardo

814 mm²

Dimensione del dado

826 mm²

Design della scheda

350W

TDP

250W

750 W

PSU suggerito

600 W

No outputs

Uscite

No outputs

1x 16-pin

Connettori di alimentazione

8-pin EPS

Funzionalità grafiche

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Modello Shader

N/A

Confronti GPU correlati

1

NVIDIA H100 PCIe vs NVIDIA RTX A6000

2

NVIDIA H100 PCIe vs NVIDIA L4

3

NVIDIA L40 vs NVIDIA H100 PCIe

4

AMD Radeon Instinct MI300 vs NVIDIA H100 PCIe

5

NVIDIA Tesla P100 PCIe 16 GB vs NVIDIA H100 PCIe

6

NVIDIA L4 vs NVIDIA A100 PCIe

7

NVIDIA Tesla T4 vs NVIDIA A100 PCIe

8

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 96 GB

9

NVIDIA H100 PCIe vs NVIDIA H100 CNX

10

NVIDIA H100 PCIe vs H200 SXM