AMD Instinct MI300X vs NVIDIA H100 SXM5 80 GB

VS

AMD Instinct MI300X NVIDIA H100 SXM5 80 GB

AI GPU Abbiamo confrontato una GPU Mercato professionale: 192GB VRAM AMD Instinct MI300X e una GPU : 80GB VRAM H100 SXM5 80 GB per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

AMD Instinct MI300X Vantaggi

Rilasciato 9 mesi in ritardo

Boost Clock è aumentato del 6% (2100MHz vs 1980MHz)

Più VRAM (192GB vs 80GB)

Banda VRAM più elevata (5300GB/s vs 1681GB/s)

2560 core di rendering aggiuntivi

NVIDIA H100 SXM5 80 GB Vantaggi

Potenza termica inferiore (700W vs 750W)

Punteggio

Benchmark

FP32 (virgola mobile)

AMD Instinct MI300X +144%

163.4 TFLOPS

H100 SXM5 80 GB

66.91 TFLOPS

AMD Instinct MI300X

VS

H100 SXM5 80 GB

Scheda grafica

dic 2023

Data di rilascio

mar 2023

Instinct

Generazione

Tesla Hopper

Professional

Tipo

AI GPU

PCIe 5.0 x16

Interfaccia bus

PCIe 5.0 x16

Velocità di clock

1000 MHz

Clock base

1590 MHz

2100 MHz

Boost Clock

1980 MHz

5200 MHz

Clock memoria

1313 MHz

Memoria

192GB

Dimensione memoria

80GB

HBM3

Tipo di memoria

HBM3

8192bit

Bus memoria

5120bit

5300GB/s

Larghezza di banda

1681GB/s

Configurazione del rendering

-

Conteggio SM

132

304

Unità di calcolo

-

19456

Unità di ombreggiatura

16896

880

TMUs

528

0

ROPs

24

-

Core Tensor

528

-

Core RT

-

16 KB (per CU)

Cache L1

256 KB (per SM)

16 MB

Cache L2

50 MB

Prestazioni teoriche

0 MPixel/s

Tasso di pixel

47.52 GPixel/s

1496 GTexel/s

Tasso di texture

1045 GTexel/s

1300 TFLOPS

FP16 (metà)

267.6 TFLOPS

163.4 TFLOPS

FP32 (float)

66.91 TFLOPS

81.7 TFLOPS

FP64 (doppio)

33.45 TFLOPS

Processore grafico

MI300

Nome GPU

GH100

-

Variante GPU

-

CDNA 3.0

Architettura

Hopper

TSMC

Fonderia

TSMC

5 nm

Dimensione del processo

4 nm

146 miliardo

Transistor

80 miliardo

1017 mm²

Dimensione del dado

814 mm²

Design della scheda

750W

TDP

700W

1000 W

PSU suggerito

1100 W

No outputs

Uscite

No outputs

None

Connettori di alimentazione

8-pin EPS

Funzionalità grafiche

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

9.0

N/A

Modello Shader

N/A

Confronti GPU correlati

1

H200 SXM vs AMD Instinct MI300X

2

AMD Instinct MI300A vs AMD Instinct MI300X

3

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090 D

4

NVIDIA GeForce RTX 4070 vs AMD Instinct MI300X

5

AMD Radeon Instinct MI8 vs AMD Instinct MI300X

6

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090

7

NVIDIA Tesla T4 vs AMD Instinct MI300X

8

AMD Instinct MI300X vs NVIDIA Quadro NVS 320M

9

AMD Instinct MI300X vs NVIDIA RTX A5500 Max-Q

10

AMD Instinct MI300X vs NVIDIA Quadro FX 880M