NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 40 GB

VS

NVIDIA H100 PCIe 96 GB NVIDIA A100 SXM4 40 GB

AI GPUAI GPU Abbiamo confrontato due GPU : 96GB VRAM H100 PCIe 96 GB e 40GB VRAM A100 SXM4 40 GB per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

NVIDIA H100 PCIe 96 GB Vantaggi

Rilasciato 2 anni e 10 mesi in ritardo

Boost Clock è aumentato del 30% (1837MHz vs 1410MHz)

Più VRAM (96GB vs 40GB)

Banda VRAM più elevata (1681GB/s vs 1555GB/s)

9984 core di rendering aggiuntivi

NVIDIA A100 SXM4 40 GB Vantaggi

Potenza termica inferiore (400W vs 700W)

Punteggio

Benchmark

FP32 (virgola mobile)

H100 PCIe 96 GB +218%

62.08 TFLOPS

A100 SXM4 40 GB

19.49 TFLOPS

H100 PCIe 96 GB

VS

A100 SXM4 40 GB

Scheda grafica

mar 2023

Data di rilascio

mag 2020

Tesla Hopper

Generazione

Tesla Ampere

AI GPU

Tipo

AI GPU

PCIe 5.0 x16

Interfaccia bus

PCIe 4.0 x16

Velocità di clock

1665 MHz

Clock base

1095 MHz

1837 MHz

Boost Clock

1410 MHz

1313 MHz

Clock memoria

1215 MHz

Memoria

96GB

Dimensione memoria

40GB

HBM3

Tipo di memoria

HBM2e

5120bit

Bus memoria

5120bit

1681GB/s

Larghezza di banda

1555GB/s

Configurazione del rendering

132

Conteggio SM

108

-

Unità di calcolo

-

16896

Unità di ombreggiatura

6912

528

TMUs

432

24

ROPs

160

528

Core Tensor

432

-

Core RT

-

256 KB (per SM)

Cache L1

192 KB (per SM)

50 MB

Cache L2

40 MB

Prestazioni teoriche

44.09 GPixel/s

Tasso di pixel

225.6 GPixel/s

969.9 GTexel/s

Tasso di texture

609.1 GTexel/s

248.3 TFLOPS

FP16 (metà)

77.97 TFLOPS

62.08 TFLOPS

FP32 (float)

19.49 TFLOPS

31.04 TFLOPS

FP64 (doppio)

9.746 TFLOPS

Processore grafico

GH100

Nome GPU

GA100

-

Variante GPU

-

Hopper

Architettura

Ampere

TSMC

Fonderia

TSMC

4 nm

Dimensione del processo

7 nm

80 miliardo

Transistor

54.2 miliardo

814 mm²

Dimensione del dado

826 mm²

Design della scheda

700W

TDP

400W

1100 W

PSU suggerito

800 W

No outputs

Uscite

No outputs

8-pin EPS

Connettori di alimentazione

None

Funzionalità grafiche

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Modello Shader

N/A

Confronti GPU correlati

1

NVIDIA RTX 6000 Ada Generation vs NVIDIA H100 PCIe 96 GB

2

NVIDIA L40S vs NVIDIA H100 PCIe 96 GB

3

NVIDIA GeForce RTX 4090 vs NVIDIA H100 PCIe 96 GB

4

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 6000 Ada

5

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 PCIe 96 GB

6

NVIDIA H100 SXM5 96 GB vs NVIDIA H100 PCIe 96 GB

7

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 80 GB

8

NVIDIA H100 PCIe 96 GB vs NVIDIA A800 SXM4 80 GB

9

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 80 GB

10

NVIDIA H100 PCIe 96 GB vs NVIDIA H800 SXM5