AMD Instinct MI300X vs NVIDIA H100 PCIe 80 GB

VS

AMD Instinct MI300X NVIDIA H100 PCIe 80 GB

AI GPU Abbiamo confrontato una GPU Mercato professionale: 192GB VRAM AMD Instinct MI300X e una GPU : 80GB VRAM H100 PCIe 80 GB per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

AMD Instinct MI300X Vantaggi

Rilasciato 9 mesi in ritardo

Boost Clock è aumentato del 20% (2100MHz vs 1755MHz)

Più VRAM (192GB vs 80GB)

Banda VRAM più elevata (5300GB/s vs 2039GB/s)

4864 core di rendering aggiuntivi

NVIDIA H100 PCIe 80 GB Vantaggi

Potenza termica inferiore (350W vs 750W)

Punteggio

Benchmark

FP32 (virgola mobile)

AMD Instinct MI300X +219%

163.4 TFLOPS

H100 PCIe 80 GB

51.22 TFLOPS

AMD Instinct MI300X

VS

H100 PCIe 80 GB

Scheda grafica

dic 2023

Data di rilascio

mar 2023

Instinct

Generazione

Tesla Hopper

Professional

Tipo

AI GPU

PCIe 5.0 x16

Interfaccia bus

PCIe 5.0 x16

Velocità di clock

1000 MHz

Clock base

1095 MHz

2100 MHz

Boost Clock

1755 MHz

5200 MHz

Clock memoria

1593 MHz

Memoria

192GB

Dimensione memoria

80GB

HBM3

Tipo di memoria

HBM2e

8192bit

Bus memoria

5120bit

5300GB/s

Larghezza di banda

2039GB/s

Configurazione del rendering

-

Conteggio SM

114

304

Unità di calcolo

-

19456

Unità di ombreggiatura

14592

880

TMUs

456

0

ROPs

24

-

Core Tensor

456

-

Core RT

-

16 KB (per CU)

Cache L1

256 KB (per SM)

16 MB

Cache L2

50 MB

Prestazioni teoriche

0 MPixel/s

Tasso di pixel

42.12 GPixel/s

1496 GTexel/s

Tasso di texture

800.3 GTexel/s

1300 TFLOPS

FP16 (metà)

204.9 TFLOPS

163.4 TFLOPS

FP32 (float)

51.22 TFLOPS

81.7 TFLOPS

FP64 (doppio)

25.61 TFLOPS

Processore grafico

MI300

Nome GPU

GH100

-

Variante GPU

-

CDNA 3.0

Architettura

Hopper

TSMC

Fonderia

TSMC

5 nm

Dimensione del processo

4 nm

146 miliardo

Transistor

80 miliardo

1017 mm²

Dimensione del dado

814 mm²

Design della scheda

750W

TDP

350W

1000 W

PSU suggerito

750 W

No outputs

Uscite

No outputs

None

Connettori di alimentazione

1x 16-pin

Funzionalità grafiche

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

9.0

N/A

Modello Shader

N/A

Confronti GPU correlati

1

H200 SXM vs AMD Instinct MI300X

2

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090 D

3

AMD Instinct MI300A vs AMD Instinct MI300X

4

NVIDIA Tesla T4 vs AMD Instinct MI300X

5

NVIDIA GeForce RTX 4070 vs AMD Instinct MI300X

6

AMD Radeon Instinct MI8 vs AMD Instinct MI300X

7

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090

8

AMD Instinct MI300X vs NVIDIA GRID RTX T10 16

9

AMD Instinct MI300X vs NVIDIA GRID M60 4A

10

AMD Instinct MI300X vs NVIDIA Quadro FX 2800M