NVIDIA H100 PCIe 80 GB vs NVIDIA GeForce RTX 4090

VS

NVIDIA H100 PCIe 80 GB NVIDIA GeForce RTX 4090

Kami membandingkan satu GPU GPU AI: 80GB VRAM H100 PCIe 80 GB dan satu GPU Platform Desktop: 24GB VRAM GeForce RTX 4090 untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA H100 PCIe 80 GB Kelebihan

Dikeluarkan lewat 6 bulan

Lebih VRAM (80GB berbanding 24GB)

Lebar jalur VRAM yang lebih besar (2.04TB/s berbanding 1.01TB/s)

TDP yang lebih rendah (350W vs 450W)

NVIDIA GeForce RTX 4090 Kelebihan

Jam Peningkatan telah meningkat sebanyak 44% (2520MHz berbanding 1755MHz)

1792 inti pemprosesan tambahan

Skor

Penilaian

FP32 (float)

H100 PCIe 80 GB

51.22 TFLOPS

GeForce RTX 4090 +61%

82.58 TFLOPS

H100 PCIe 80 GB

VS

GeForce RTX 4090

Kad Grafik

Mac 2023

Tarikh Keluaran

Sep 2022

Tesla Hopper

Generasi

GeForce 40

GPU KI

Jenis

Desktop

PCIe 5.0 x16

Antaramuka Bas

PCIe 4.0 x16

Kelajuan Jam

1095 MHz

Jam Asas

2235 MHz

1755 MHz

Jam Peningkatan

2520 MHz

1593 MHz

Jam Memori

1313 MHz

Memori

80GB

Saiz Memori

24GB

HBM2e

Jenis Memori

GDDR6X

5120bit

Bas Memori

384bit

2.04TB/s

Lebar Jalur

1.01TB/s

Konfigurasi Render

114

Bilangan SM

128

-

Unit Pengiraan

-

14592

Unit Shading

16384

456

TMUs

512

24

ROPs

176

456

Teras Tensor

512

-

Teras RT

128

256 KB (per SM)

Cache L1

128 KB (per SM)

50 MB

Cache L2

72 MB

Prestasi Teoretis

42.12 GPixel/s

Kadar Piksel

443.5 GPixel/s

800.3 GTexel/s

Kadar Tekstur

1290 GTexel/s

204.9 TFLOPS

FP16 (setengah)

82.58 TFLOPS

51.22 TFLOPS

FP32 (apung)

82.58 TFLOPS

25.61 TFLOPS

FP64 (dua kali)

1290 GFLOPS

Pemproses Grafik

GH100

Nama GPU

AD102

-

Varian GPU

AD102-300-A1

Hopper

Seni Bina

Ada Lovelace

TSMC

Pencetak

TSMC

5 nm

Saiz Proses

5 nm

80 bilion

Transistor

76.3 bilion

814 mm²

Saiz Die

609 mm²

Reka Bentuk Papan

350W

TDP

450W

750 W

PSU Dicadangkan

850 W

No outputs

Output

1x HDMI 2.1 3x DisplayPort 1.4a

1x 16-pin

Penyambung Kuasa

1x 16-pin

Ciri-ciri Grafik

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Model Shader

6.7

Perbandingan GPU Berkaitan

1

H200 SXM vs NVIDIA H100 PCIe 80 GB

2

NVIDIA L40S vs NVIDIA H100 PCIe 80 GB

3

AMD Instinct MI300X vs NVIDIA H100 PCIe 80 GB

4

AMD Radeon Instinct MI300X vs NVIDIA H100 PCIe 80 GB

5

NVIDIA A100 PCIe vs NVIDIA H100 PCIe 80 GB

6

NVIDIA H800 PCIe 80 GB vs NVIDIA H100 PCIe 80 GB

7

NVIDIA GeForce RTX 4090 vs NVIDIA A100 PCIe 80 GB

8

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 96 GB

9

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 CNX

10

NVIDIA H100 PCIe 80 GB vs H200 SXM