NVIDIA H100 PCIe vs AMD Radeon Instinct MI300

VS

NVIDIA H100 PCIe AMD Radeon Instinct MI300

Kami membandingkan satu GPU GPU AI: 80GB VRAM H100 PCIe dan satu GPU Pasaran Profesional: 128GB VRAM Radeon Instinct MI300 untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA H100 PCIe Kelebihan

Jam Peningkatan telah meningkat sebanyak 3% (1755MHz berbanding 1700MHz)

512 inti pemprosesan tambahan

TDP yang lebih rendah (350W vs 600W)

AMD Radeon Instinct MI300 Kelebihan

Dikeluarkan lewat 10 bulan

Lebih VRAM (128GB berbanding 80GB)

Lebar jalur VRAM yang lebih besar (3277GB/s berbanding 2039GB/s)

Skor

Penilaian

FP32 (float)

H100 PCIe +6%

51.22 TFLOPS

Radeon Instinct MI300

47.87 TFLOPS

H100 PCIe

VS

Radeon Instinct MI300

Kad Grafik

Mac 2022

Tarikh Keluaran

Jan 2023

Tesla Hopper

Generasi

Radeon Instinct

GPU KI

Jenis

Profesional

PCIe 5.0 x16

Antaramuka Bas

PCIe 5.0 x16

Kelajuan Jam

1095 MHz

Jam Asas

1000 MHz

1755 MHz

Jam Peningkatan

1700 MHz

1593 MHz

Jam Memori

1600 MHz

Memori

80GB

Saiz Memori

128GB

HBM2e

Jenis Memori

HBM3

5120bit

Bas Memori

8192bit

2039GB/s

Lebar Jalur

3277GB/s

Konfigurasi Render

114

Bilangan SM

-

Unit Pengiraan

220

14592

Unit Shading

14080

456

TMUs

880

24

ROPs

0

456

Teras Tensor

880

-

Teras RT

-

256 KB (per SM)

Cache L1

16 KB (per CU)

50 MB

Cache L2

16 MB

Prestasi Teoretis

42.12 GPixel/s

Kadar Piksel

0 MPixel/s

800.3 GTexel/s

Kadar Tekstur

1496 GTexel/s

204.9 TFLOPS

FP16 (setengah)

383.0 TFLOPS

51.22 TFLOPS

FP32 (apung)

47.87 TFLOPS

25.61 TFLOPS

FP64 (dua kali)

47.87 TFLOPS

Pemproses Grafik

GH100

Nama GPU

Aqua Vanjaram

-

Varian GPU

-

Hopper

Seni Bina

CDNA 3.0

TSMC

Pencetak

TSMC

4 nm

Saiz Proses

5 nm

80 bilion

Transistor

153 bilion

814 mm²

Saiz Die

1017 mm²

Reka Bentuk Papan

350W

TDP

600W

750 W

PSU Dicadangkan

1000 W

No outputs

Output

No outputs

1x 16-pin

Penyambung Kuasa

2x 8-pin

Ciri-ciri Grafik

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

-

N/A

Model Shader

N/A

Perbandingan GPU Berkaitan

1

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

2

NVIDIA H100 PCIe vs NVIDIA RTX A6000

3

NVIDIA H100 PCIe vs NVIDIA L4

4

NVIDIA L40 vs NVIDIA H100 PCIe

5

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 96 GB

6

NVIDIA A10 PCIe vs NVIDIA H100 PCIe

7

AMD Radeon Instinct MI300 vs H200 SXM

8

NVIDIA H100 PCIe vs NVIDIA H800 PCIe 80 GB

9

NVIDIA H100 PCIe vs NVIDIA H100 PCIe 96 GB

10

NVIDIA H100 PCIe vs NVIDIA H800 SXM5