NVIDIA H100 PCIe vs NVIDIA L4

VS

NVIDIA H100 PCIe NVIDIA L4

Kami membandingkan satu GPU GPU AI: 80GB VRAM H100 PCIe dan satu GPU Pasaran Profesional: 24GB VRAM L4 untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA H100 PCIe Kelebihan

Lebih VRAM (80GB berbanding 24GB)

Lebar jalur VRAM yang lebih besar (2039GB/s berbanding 300.1GB/s)

7168 inti pemprosesan tambahan

NVIDIA L4 Kelebihan

Dikeluarkan lewat 1 tahun

Jam Peningkatan telah meningkat sebanyak 16% (2040MHz berbanding 1755MHz)

TDP yang lebih rendah (72W vs 350W)

Skor

Penilaian

FP32 (float)

H100 PCIe +69%

51.22 TFLOPS

L4

30.29 TFLOPS

H100 PCIe

VS

L4

Kad Grafik

Mac 2022

Tarikh Keluaran

Mac 2023

Tesla Hopper

Generasi

Tesla Ada

GPU KI

Jenis

Profesional

PCIe 5.0 x16

Antaramuka Bas

PCIe 4.0 x16

Kelajuan Jam

1095 MHz

Jam Asas

795 MHz

1755 MHz

Jam Peningkatan

2040 MHz

1593 MHz

Jam Memori

1563 MHz

Memori

80GB

Saiz Memori

24GB

HBM2e

Jenis Memori

GDDR6

5120bit

Bas Memori

192bit

2039GB/s

Lebar Jalur

300.1GB/s

Konfigurasi Render

114

Bilangan SM

60

-

Unit Pengiraan

-

14592

Unit Shading

7424

456

TMUs

240

24

ROPs

80

456

Teras Tensor

240

-

Teras RT

60

256 KB (per SM)

Cache L1

128 KB (per SM)

50 MB

Cache L2

48 MB

Prestasi Teoretis

42.12 GPixel/s

Kadar Piksel

163.2 GPixel/s

800.3 GTexel/s

Kadar Tekstur

489.6 GTexel/s

204.9 TFLOPS

FP16 (setengah)

30.29 TFLOPS

51.22 TFLOPS

FP32 (apung)

30.29 TFLOPS

25.61 TFLOPS

FP64 (dua kali)

473.3 GFLOPS

Pemproses Grafik

GH100

Nama GPU

AD104

-

Varian GPU

AD104-???-A1

Hopper

Seni Bina

Ada Lovelace

TSMC

Pencetak

TSMC

4 nm

Saiz Proses

5 nm

80 bilion

Transistor

35.8 bilion

814 mm²

Saiz Die

294 mm²

Reka Bentuk Papan

350W

TDP

72W

750 W

PSU Dicadangkan

250 W

No outputs

Output

No outputs

1x 16-pin

Penyambung Kuasa

1x 16-pin

Ciri-ciri Grafik

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Model Shader

6.7

Perbandingan GPU Berkaitan

1

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

2

NVIDIA H100 PCIe vs NVIDIA RTX A6000

3

NVIDIA L40 vs NVIDIA H100 PCIe

4

AMD Radeon Instinct MI300 vs NVIDIA H100 PCIe

5

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 96 GB

6

NVIDIA GeForce RTX 3090 Ti vs NVIDIA H100 PCIe

7

NVIDIA Tesla T4 vs NVIDIA L4

8

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 64 GB

9

NVIDIA H100 PCIe vs NVIDIA H100 CNX

10

NVIDIA H100 PCIe vs H200 SXM