NVIDIA H100 SXM5 64 GB vs NVIDIA A100 PCIe

VS

AI GPUAI GPU Abbiamo confrontato due GPU : 64GB VRAM H100 SXM5 64 GB e 40GB VRAM A100 PCIe per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

NVIDIA H100 SXM5 64 GB Vantaggi

Rilasciato 2 anni e 9 mesi in ritardo

Boost Clock è aumentato del 40% (1980MHz vs 1410MHz)

Più VRAM (64GB vs 40GB)

9984 core di rendering aggiuntivi

NVIDIA A100 PCIe Vantaggi

Banda VRAM più elevata (1555GB/s vs 1008GB/s)

Potenza termica inferiore (250W vs 700W)

Punteggio

Benchmark

FP32 (virgola mobile)

H100 SXM5 64 GB +243%

66.91 TFLOPS

A100 PCIe

19.49 TFLOPS

H100 SXM5 64 GB

VS

A100 PCIe

Scheda grafica

mar 2023

Data di rilascio

giu 2020

Tesla Hopper

Generazione

Tesla

AI GPU

Tipo

AI GPU

PCIe 5.0 x16

Interfaccia bus

PCIe 4.0 x16

Velocità di clock

1665 MHz

Clock base

765 MHz

1980 MHz

Boost Clock

1410 MHz

1313 MHz

Clock memoria

1215 MHz

Memoria

64GB

Dimensione memoria

40GB

HBM3

Tipo di memoria

HBM2e

3072bit

Bus memoria

5120bit

1008GB/s

Larghezza di banda

1555GB/s

Configurazione del rendering

132

Conteggio SM

108

-

Unità di calcolo

-

16896

Unità di ombreggiatura

6912

528

TMUs

432

24

ROPs

160

528

Core Tensor

432

-

Core RT

-

256 KB (per SM)

Cache L1

192 KB (per SM)

50 MB

Cache L2

40 MB

Prestazioni teoriche

47.52 GPixel/s

Tasso di pixel

225.6 GPixel/s

1045 GTexel/s

Tasso di texture

609.1 GTexel/s

267.6 TFLOPS

FP16 (metà)

77.97 TFLOPS

66.91 TFLOPS

FP32 (float)

19.49 TFLOPS

33.45 TFLOPS

FP64 (doppio)

9.746 TFLOPS

Processore grafico

GH100

Nome GPU

GA100

-

Variante GPU

-

Hopper

Architettura

Ampere

TSMC

Fonderia

TSMC

4 nm

Dimensione del processo

7 nm

80 miliardo

Transistor

54.2 miliardo

814 mm²

Dimensione del dado

826 mm²

Design della scheda

700W

TDP

250W

1100 W

PSU suggerito

600 W

No outputs

Uscite

No outputs

8-pin EPS

Connettori di alimentazione

8-pin EPS

Funzionalità grafiche

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Modello Shader

N/A

Confronti GPU correlati

1

NVIDIA A10G vs NVIDIA H100 SXM5 64 GB

2

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 64 GB

3

NVIDIA L4 vs NVIDIA H100 SXM5 64 GB

4

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 64 GB

5

NVIDIA Quadro M2200 Mobile vs NVIDIA H100 SXM5 64 GB

6

NVIDIA H100 SXM5 64 GB vs NVIDIA H800 SXM5

7

NVIDIA L4 vs NVIDIA A100 PCIe

8

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 CNX

9

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 PCIe 80 GB

10

NVIDIA H100 SXM5 64 GB vs NVIDIA A100 SXM4 80 GB