NVIDIA A100 PCIe vs NVIDIA H100 SXM5 96 GB

VS

AI GPUAI GPU Abbiamo confrontato due GPU : 40GB VRAM A100 PCIe e 96GB VRAM H100 SXM5 96 GB per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

NVIDIA A100 PCIe Vantaggi

Potenza termica inferiore (250W vs 700W)

NVIDIA H100 SXM5 96 GB Vantaggi

Rilasciato 2 anni e 9 mesi in ritardo

Boost Clock è aumentato del 30% (1837MHz vs 1410MHz)

Più VRAM (96GB vs 40GB)

Banda VRAM più elevata (1681GB/s vs 1555GB/s)

9984 core di rendering aggiuntivi

Punteggio

Benchmark

FP32 (virgola mobile)

A100 PCIe

19.49 TFLOPS

H100 SXM5 96 GB +218%

62.08 TFLOPS

A100 PCIe

VS

H100 SXM5 96 GB

Scheda grafica

giu 2020

Data di rilascio

mar 2023

Tesla

Generazione

Tesla Hopper

AI GPU

Tipo

AI GPU

PCIe 4.0 x16

Interfaccia bus

PCIe 5.0 x16

Velocità di clock

765 MHz

Clock base

1665 MHz

1410 MHz

Boost Clock

1837 MHz

1215 MHz

Clock memoria

1313 MHz

Memoria

40GB

Dimensione memoria

96GB

HBM2e

Tipo di memoria

HBM3

5120bit

Bus memoria

5120bit

1555GB/s

Larghezza di banda

1681GB/s

Configurazione del rendering

108

Conteggio SM

132

-

Unità di calcolo

-

6912

Unità di ombreggiatura

16896

432

TMUs

528

160

ROPs

24

432

Core Tensor

528

-

Core RT

-

192 KB (per SM)

Cache L1

256 KB (per SM)

40 MB

Cache L2

50 MB

Prestazioni teoriche

225.6 GPixel/s

Tasso di pixel

44.09 GPixel/s

609.1 GTexel/s

Tasso di texture

969.9 GTexel/s

77.97 TFLOPS

FP16 (metà)

248.3 TFLOPS

19.49 TFLOPS

FP32 (float)

62.08 TFLOPS

9.746 TFLOPS

FP64 (doppio)

31.04 TFLOPS

Processore grafico

GA100

Nome GPU

GH100

-

Variante GPU

-

Ampere

Architettura

Hopper

TSMC

Fonderia

TSMC

7 nm

Dimensione del processo

4 nm

54.2 miliardo

Transistor

80 miliardo

826 mm²

Dimensione del dado

814 mm²

Design della scheda

250W

TDP

700W

600 W

PSU suggerito

1100 W

No outputs

Uscite

No outputs

8-pin EPS

Connettori di alimentazione

8-pin EPS

Funzionalità grafiche

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

Modello Shader

N/A

Confronti GPU correlati

1

NVIDIA L4 vs NVIDIA A100 PCIe

2

NVIDIA Tesla T4 vs NVIDIA A100 PCIe

3

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

4

NVIDIA A100 PCIe vs NVIDIA L40

5

NVIDIA A100 PCIe vs NVIDIA RTX 6000 Ada

6

NVIDIA A100 PCIe vs NVIDIA A40 PCIe

7

NVIDIA A100 PCIe vs NVIDIA A10 PCIe

8

NVIDIA A100 PCIe vs NVIDIA H100 SXM5

9

NVIDIA A100 PCIe vs NVIDIA A800 PCIe 80 GB

10

NVIDIA A100 PCIe vs H200 SXM