NVIDIA A16 PCIe vs NVIDIA H100 SXM5 96 GB

VS

AI GPU Abbiamo confrontato una GPU Piattaforma desktop: 16GB VRAM A16 PCIe e una GPU : 96GB VRAM H100 SXM5 96 GB per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

NVIDIA A16 PCIe Vantaggi

Potenza termica inferiore (250W vs 700W)

NVIDIA H100 SXM5 96 GB Vantaggi

Rilasciato 1 anni e 11 mesi in ritardo

Boost Clock è aumentato del 8% (1837MHz vs 1695MHz)

Più VRAM (96GB vs 16GB)

Banda VRAM più elevata (1681GB/s vs 231.9GB/s)

15616 core di rendering aggiuntivi

Punteggio

Benchmark

FP32 (virgola mobile)

A16 PCIe

4.339 TFLOPS

H100 SXM5 96 GB +1330%

62.08 TFLOPS

A16 PCIe

VS

H100 SXM5 96 GB

Scheda grafica

apr 2021

Data di rilascio

mar 2023

Tesla

Generazione

Tesla Hopper

Desktop

Tipo

AI GPU

PCIe 4.0 x8

Interfaccia bus

PCIe 5.0 x16

Velocità di clock

885 MHz

Clock base

1665 MHz

1695 MHz

Boost Clock

1837 MHz

1812 MHz

Clock memoria

1313 MHz

Memoria

16GB

Dimensione memoria

96GB

GDDR6

Tipo di memoria

HBM3

128bit

Bus memoria

5120bit

231.9GB/s

Larghezza di banda

1681GB/s

Configurazione del rendering

10

Conteggio SM

132

-

Unità di calcolo

-

1280

Unità di ombreggiatura

16896

40

TMUs

528

32

ROPs

24

40

Core Tensor

528

10

Core RT

-

128 KB (per SM)

Cache L1

256 KB (per SM)

2 MB

Cache L2

50 MB

Prestazioni teoriche

54.24 GPixel/s

Tasso di pixel

44.09 GPixel/s

67.80 GTexel/s

Tasso di texture

969.9 GTexel/s

4.339 TFLOPS

FP16 (metà)

248.3 TFLOPS

4.339 TFLOPS

FP32 (float)

62.08 TFLOPS

135.6 GFLOPS

FP64 (doppio)

31.04 TFLOPS

Processore grafico

GA107

Nome GPU

GH100

-

Variante GPU

-

Ampere

Architettura

Hopper

Samsung

Fonderia

TSMC

8 nm

Dimensione del processo

4 nm

Sconosciuto

Transistor

80 miliardo

Sconosciuto

Dimensione del dado

814 mm²

Design della scheda

250W

TDP

700W

600 W

PSU suggerito

1100 W

No outputs

Uscite

No outputs

8-pin EPS

Connettori di alimentazione

8-pin EPS

Funzionalità grafiche

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.6

CUDA

9.0

6.6

Modello Shader

N/A

Confronti GPU correlati

1

NVIDIA L40S vs NVIDIA A16 PCIe

2

NVIDIA A16 PCIe vs NVIDIA A100 SXM4 80 GB

3

NVIDIA GeForce RTX 4090 vs NVIDIA A16 PCIe

4

NVIDIA A16 PCIe vs NVIDIA A40 PCIe

5

NVIDIA A10 PCIe vs NVIDIA A16 PCIe

6

NVIDIA A16 PCIe vs NVIDIA RTX 6000 Ada

7

NVIDIA A2 vs NVIDIA A16 PCIe

8

NVIDIA A16 PCIe vs AMD Radeon HD 6450

9

NVIDIA A16 PCIe vs AMD Radeon R7 360E

10

NVIDIA A16 PCIe vs NVIDIA GeForce GT 230 OEM