NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 4090 Ti

VS

NVIDIA H100 PCIe 96 GB NVIDIA GeForce RTX 4090 Ti

Kami membandingkan satu GPU GPU AI: 96GB VRAM H100 PCIe 96 GB dan satu GPU Platform Desktop: 24GB VRAM GeForce RTX 4090 Ti untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA H100 PCIe 96 GB Kelebihan

Lebih VRAM (96GB berbanding 24GB)

Lebar jalur VRAM yang lebih besar (1681GB/s berbanding 1152GB/s)

NVIDIA GeForce RTX 4090 Ti Kelebihan

Jam Peningkatan telah meningkat sebanyak 40% (2565MHz berbanding 1837MHz)

1280 inti pemprosesan tambahan

TDP yang lebih rendah (600W vs 700W)

Skor

Penilaian

FP32 (float)

H100 PCIe 96 GB

62.08 TFLOPS

GeForce RTX 4090 Ti +50%

93.24 TFLOPS

H100 PCIe 96 GB

VS

GeForce RTX 4090 Ti

Kad Grafik

Mac 2023

Tarikh Keluaran

Tidak diketahui

Tesla Hopper

Generasi

GeForce 40

GPU KI

Jenis

Desktop

PCIe 5.0 x16

Antaramuka Bas

PCIe 4.0 x16

Kelajuan Jam

1665 MHz

Jam Asas

2325 MHz

1837 MHz

Jam Peningkatan

2565 MHz

1313 MHz

Jam Memori

1500 MHz

Memori

96GB

Saiz Memori

24GB

HBM3

Jenis Memori

GDDR6X

5120bit

Bas Memori

384bit

1681GB/s

Lebar Jalur

1152GB/s

Konfigurasi Render

132

Bilangan SM

142

-

Unit Pengiraan

-

16896

Unit Shading

18176

528

TMUs

568

24

ROPs

192

528

Teras Tensor

568

-

Teras RT

142

256 KB (per SM)

Cache L1

128 KB (per SM)

50 MB

Cache L2

96 MB

Prestasi Teoretis

44.09 GPixel/s

Kadar Piksel

492.5 GPixel/s

969.9 GTexel/s

Kadar Tekstur

1457 GTexel/s

248.3 TFLOPS

FP16 (setengah)

93.24 TFLOPS

62.08 TFLOPS

FP32 (apung)

93.24 TFLOPS

31.04 TFLOPS

FP64 (dua kali)

1457 GFLOPS

Pemproses Grafik

GH100

Nama GPU

AD102

-

Varian GPU

AD102-400-A1

Hopper

Seni Bina

Ada Lovelace

TSMC

Pencetak

TSMC

4 nm

Saiz Proses

5 nm

80 bilion

Transistor

76.3 bilion

814 mm²

Saiz Die

609 mm²

Reka Bentuk Papan

700W

TDP

600W

1100 W

PSU Dicadangkan

1000 W

No outputs

Output

1x HDMI 2.1 3x DisplayPort 1.4a

8-pin EPS

Penyambung Kuasa

2x 16-pin

Ciri-ciri Grafik

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Model Shader

6.7

Perbandingan GPU Berkaitan

1

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 6000 Ada

2

NVIDIA A100 SXM4 80 GB vs NVIDIA H100 PCIe 96 GB

3

NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 4090

4

NVIDIA A100 PCIe vs NVIDIA H100 PCIe 96 GB

5

NVIDIA H100 PCIe 96 GB vs H200 SXM

6

NVIDIA H100 CNX vs NVIDIA H100 PCIe 96 GB

7

H200 SXM vs NVIDIA GeForce RTX 4090 Ti

8

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 80 GB

9

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5

10

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 PCIe