NVIDIA H100 SXM5 80 GB vs AMD Instinct MI300X

VS

NVIDIA H100 SXM5 80 GB AMD Instinct MI300X

Kami membandingkan satu GPU GPU AI: 80GB VRAM H100 SXM5 80 GB dan satu GPU Pasaran Profesional: 192GB VRAM AMD Instinct MI300X untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA H100 SXM5 80 GB Kelebihan

TDP yang lebih rendah (700W vs 750W)

AMD Instinct MI300X Kelebihan

Dikeluarkan lewat 9 bulan

Jam Peningkatan telah meningkat sebanyak 6% (2100MHz berbanding 1980MHz)

Lebih VRAM (192GB berbanding 80GB)

Lebar jalur VRAM yang lebih besar (5300GB/s berbanding 1681GB/s)

2560 inti pemprosesan tambahan

Skor

Penilaian

FP32 (float)

H100 SXM5 80 GB

66.91 TFLOPS

AMD Instinct MI300X +144%

163.4 TFLOPS

H100 SXM5 80 GB

VS

AMD Instinct MI300X

Kad Grafik

Mac 2023

Tarikh Keluaran

Dis 2023

Tesla Hopper

Generasi

Instinct

GPU KI

Jenis

Profesional

PCIe 5.0 x16

Antaramuka Bas

PCIe 5.0 x16

Kelajuan Jam

1590 MHz

Jam Asas

1000 MHz

1980 MHz

Jam Peningkatan

2100 MHz

1313 MHz

Jam Memori

5200 MHz

Memori

80GB

Saiz Memori

192GB

HBM3

Jenis Memori

HBM3

5120bit

Bas Memori

8192bit

1681GB/s

Lebar Jalur

5300GB/s

Konfigurasi Render

132

Bilangan SM

-

Unit Pengiraan

304

16896

Unit Shading

19456

528

TMUs

880

24

ROPs

0

528

Teras Tensor

-

Teras RT

-

256 KB (per SM)

Cache L1

16 KB (per CU)

50 MB

Cache L2

16 MB

Prestasi Teoretis

47.52 GPixel/s

Kadar Piksel

0 MPixel/s

1045 GTexel/s

Kadar Tekstur

1496 GTexel/s

267.6 TFLOPS

FP16 (setengah)

1300 TFLOPS

66.91 TFLOPS

FP32 (apung)

163.4 TFLOPS

33.45 TFLOPS

FP64 (dua kali)

81.7 TFLOPS

Pemproses Grafik

GH100

Nama GPU

MI300

-

Varian GPU

-

Hopper

Seni Bina

CDNA 3.0

TSMC

Pencetak

TSMC

4 nm

Saiz Proses

5 nm

80 bilion

Transistor

146 bilion

814 mm²

Saiz Die

1017 mm²

Reka Bentuk Papan

700W

TDP

750W

1100 W

PSU Dicadangkan

1000 W

No outputs

Output

No outputs

8-pin EPS

Penyambung Kuasa

None

Ciri-ciri Grafik

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

-

N/A

Model Shader

N/A

Perbandingan GPU Berkaitan

1

NVIDIA H800 SXM5 vs NVIDIA H100 SXM5 80 GB

2

NVIDIA A40 PCIe vs NVIDIA H100 SXM5 80 GB

3

NVIDIA H100 SXM5 80 GB vs NVIDIA A100 SXM4 80 GB

4

NVIDIA H100 SXM5 80 GB vs NVIDIA L40S

5

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 80 GB

6

H200 SXM vs AMD Instinct MI300X

7

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090 D

8

NVIDIA H100 SXM5 80 GB vs NVIDIA H100 SXM5

9

NVIDIA H100 SXM5 80 GB vs NVIDIA H100 CNX

10

NVIDIA H100 SXM5 80 GB vs NVIDIA H100 PCIe 80 GB