NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 64 GB

VS

NVIDIA A100 SXM4 40 GB NVIDIA H100 SXM5 64 GB

AI GPUAI GPU Abbiamo confrontato due GPU : 40GB VRAM A100 SXM4 40 GB e 64GB VRAM H100 SXM5 64 GB per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

NVIDIA A100 SXM4 40 GB Vantaggi

Banda VRAM più elevata (1555GB/s vs 1008GB/s)

Potenza termica inferiore (400W vs 700W)

NVIDIA H100 SXM5 64 GB Vantaggi

Rilasciato 2 anni e 10 mesi in ritardo

Boost Clock è aumentato del 40% (1980MHz vs 1410MHz)

Più VRAM (64GB vs 40GB)

9984 core di rendering aggiuntivi

Punteggio

Benchmark

FP32 (virgola mobile)

A100 SXM4 40 GB

19.49 TFLOPS

H100 SXM5 64 GB +243%

66.91 TFLOPS

A100 SXM4 40 GB

VS

H100 SXM5 64 GB

Scheda grafica

mag 2020

Data di rilascio

mar 2023

Tesla Ampere

Generazione

Tesla Hopper

AI GPU

Tipo

AI GPU

PCIe 4.0 x16

Interfaccia bus

PCIe 5.0 x16

Velocità di clock

1095 MHz

Clock base

1665 MHz

1410 MHz

Boost Clock

1980 MHz

1215 MHz

Clock memoria

1313 MHz

Memoria

40GB

Dimensione memoria

64GB

HBM2e

Tipo di memoria

HBM3

5120bit

Bus memoria

3072bit

1555GB/s

Larghezza di banda

1008GB/s

Configurazione del rendering

108

Conteggio SM

132

-

Unità di calcolo

-

6912

Unità di ombreggiatura

16896

432

TMUs

528

160

ROPs

24

432

Core Tensor

528

-

Core RT

-

192 KB (per SM)

Cache L1

256 KB (per SM)

40 MB

Cache L2

50 MB

Prestazioni teoriche

225.6 GPixel/s

Tasso di pixel

47.52 GPixel/s

609.1 GTexel/s

Tasso di texture

1045 GTexel/s

77.97 TFLOPS

FP16 (metà)

267.6 TFLOPS

19.49 TFLOPS

FP32 (float)

66.91 TFLOPS

9.746 TFLOPS

FP64 (doppio)

33.45 TFLOPS

Processore grafico

GA100

Nome GPU

GH100

-

Variante GPU

-

Ampere

Architettura

Hopper

TSMC

Fonderia

TSMC

7 nm

Dimensione del processo

4 nm

54.2 miliardo

Transistor

80 miliardo

826 mm²

Dimensione del dado

814 mm²

Design della scheda

400W

TDP

700W

800 W

PSU suggerito

1100 W

No outputs

Uscite

No outputs

None

Connettori di alimentazione

8-pin EPS

Funzionalità grafiche

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

Modello Shader

N/A

Confronti GPU correlati

1

NVIDIA GeForce RTX 4090 vs NVIDIA A100 SXM4 40 GB

2

NVIDIA A100 PCIe vs NVIDIA A100 SXM4 40 GB

3

NVIDIA A100 SXM4 40 GB vs NVIDIA A100 PCIe 80 GB

4

NVIDIA L40 vs NVIDIA A100 SXM4 40 GB

5

NVIDIA A100 SXM4 40 GB vs NVIDIA A100 SXM4 80 GB

6

NVIDIA RTX 6000 Ada vs NVIDIA A100 SXM4 40 GB

7

NVIDIA A100 SXM4 40 GB vs NVIDIA GeForce RTX 4060 Ti

8

NVIDIA A100 SXM4 40 GB vs NVIDIA H800 PCIe 80 GB

9

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 64 GB

10

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 PCIe 96 GB