AMD Instinct MI300A vs NVIDIA L40 CNX

VS

Nous avons comparé deux GPUs Marché professionnel: 128GB VRAM AMD Instinct MI300A et 24GB VRAM L40 CNX pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.

Différences principales

AMD Instinct MI300A Avantages de

Sorti avec un retard de 1 an(s) et 2 mois

Plus de VRAM (128GB vs 24GB)

Bande passante VRAM plus élevée (5300GB/s vs 864.0GB/s)

NVIDIA L40 CNX Avantages de

Horloge Boost a augmenté de 18% (2475MHz vs 2100MHz)

3584 cœurs de rendu supplémentaires

Consommation d'énergie plus faible (300W vs 760W)

Score

Benchmark

FP32 (flottant)

AMD Instinct MI300A +36%

122.6 TFLOPS

L40 CNX

89.97 TFLOPS

AMD Instinct MI300A

VS

L40 CNX

Carte graphique

déc. 2023

Date de sortie

oct. 2022

Instinct

Génération

Tesla Ada

Professionnel

Type

Professionnel

PCIe 5.0 x16

Interface de bus

PCIe 4.0 x16

Vitesses d'horloge

1000 MHz

Horloge de base

1005 MHz

2100 MHz

Horloge Boost

2475 MHz

5200 MHz

Horloge Mémoire

2250 MHz

Mémoire

128GB

Taille de Mémoire

24GB

HBM3

Type de Mémoire

GDDR6

8192bit

Bus de Mémoire

384bit

5300GB/s

Bande Passante

864.0GB/s

Config de rendu

-

Nombre de SM

142

228

Unités de calcul

-

14592

Unités d'Ombrage

18176

880

TMUs

568

0

ROPs

192

-

Cœurs de Tensor

568

-

Cœurs RT

142

16 KB (per CU)

Cache L1

128 KB (per SM)

16 MB

Cache L2

48 MB

Performance théorique

0 MPixel/s

Taux de Pixel

475.2 GPixel/s

1496 GTexel/s

Taux de Texture

1406 GTexel/s

980.6 TFLOPS

FP16 (demi)

89.97 TFLOPS

122.6 TFLOPS

FP32 (flottant)

89.97 TFLOPS

61.3 TFLOPS

FP64 (double précision)

1406 GFLOPS

Processeur graphique

MI300

Nom du GPU

AD102

-

Variante de GPU

AD102-???-A1

CDNA 3.0

Architecture

Ada Lovelace

TSMC

Fonderie

TSMC

5 nm

Taille de processus

4 nm

146 milliard

Transistors

76.3 milliard

1017 mm²

Taille de Die

608 mm²

Conception de carte

760W

TDP

300W

1000 W

Alimentation suggérée

700 W

No outputs

Sorties

1x HDMI 2.1 3x DisplayPort 1.4a

None

Connecteurs d'alimentation

1x 16-pin

Fonctions graphiques

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

Modèle de shader

6.6

Comparaisons GPU liées

1

AMD Instinct MI300A vs AMD Instinct MI300X

2

AMD Instinct MI300A vs NVIDIA Tesla T10 Processor

3

NVIDIA L4 vs AMD Instinct MI300A

4

NVIDIA L40 vs AMD Instinct MI300A

5

AMD Instinct MI300A vs Intel Data Center GPU Max 1350

6

NVIDIA Tesla V100 SXM2 16 GB vs AMD Instinct MI300A

7

AMD Instinct MI300A vs NVIDIA Quadro NVS 130M

8

AMD Instinct MI300A vs NVIDIA L40

9

AMD Instinct MI300A vs AMD Radeon Instinct MI50

10

AMD Instinct MI300A vs NVIDIA Quadro P620 Mobile