NVIDIA L40 vs AMD Instinct MI300A

VS

NVIDIA L40 AMD Instinct MI300A

Nous avons comparé deux GPUs Marché professionnel: 48GB VRAM L40 et 128GB VRAM AMD Instinct MI300A pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.

Différences principales

NVIDIA L40 Avantages de

Horloge Boost a augmenté de 19% (2490MHz vs 2100MHz)

3584 cœurs de rendu supplémentaires

Consommation d'énergie plus faible (300W vs 760W)

AMD Instinct MI300A Avantages de

Sorti avec un retard de 1 an(s) et 2 mois

Plus de VRAM (128GB vs 48GB)

Bande passante VRAM plus élevée (5300GB/s vs 864.0GB/s)

Score

Benchmark

FP32 (flottant)

L40

90.52 TFLOPS

AMD Instinct MI300A +35%

122.6 TFLOPS

L40

VS

AMD Instinct MI300A

Carte graphique

oct. 2022

Date de sortie

déc. 2023

Tesla Ada

Génération

Instinct

Professionnel

Type

Professionnel

PCIe 4.0 x16

Interface de bus

PCIe 5.0 x16

Vitesses d'horloge

735 MHz

Horloge de base

1000 MHz

2490 MHz

Horloge Boost

2100 MHz

2250 MHz

Horloge Mémoire

5200 MHz

Mémoire

48GB

Taille de Mémoire

128GB

GDDR6

Type de Mémoire

HBM3

384bit

Bus de Mémoire

8192bit

864.0GB/s

Bande Passante

5300GB/s

Config de rendu

142

Nombre de SM

-

Unités de calcul

228

18176

Unités d'Ombrage

14592

568

TMUs

880

192

ROPs

0

568

Cœurs de Tensor

-

142

Cœurs RT

-

128 KB (per SM)

Cache L1

16 KB (per CU)

96 MB

Cache L2

16 MB

Performance théorique

478.1 GPixel/s

Taux de Pixel

0 MPixel/s

1414 GTexel/s

Taux de Texture

1496 GTexel/s

90.52 TFLOPS

FP16 (demi)

980.6 TFLOPS

90.52 TFLOPS

FP32 (flottant)

122.6 TFLOPS

1414 GFLOPS

FP64 (double précision)

61.3 TFLOPS

Processeur graphique

AD102

Nom du GPU

MI300

AD102-895-A1

Variante de GPU

-

Ada Lovelace

Architecture

CDNA 3.0

TSMC

Fonderie

TSMC

4 nm

Taille de processus

5 nm

76.3 milliard

Transistors

146 milliard

608 mm²

Taille de Die

1017 mm²

Conception de carte

300W

TDP

760W

700 W

Alimentation suggérée

1000 W

4x DisplayPort 1.4a

Sorties

No outputs

1x 16-pin

Connecteurs d'alimentation

None

Fonctions graphiques

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.6

Modèle de shader

N/A

Comparaisons GPU liées

1

NVIDIA L40 vs NVIDIA L40S

2

NVIDIA RTX A6000 vs NVIDIA L40

3

NVIDIA A100 PCIe vs NVIDIA L40

4

NVIDIA L40 vs NVIDIA GeForce RTX 4090

5

NVIDIA L4 vs NVIDIA L40

6

NVIDIA L40 vs NVIDIA H100 PCIe

7

NVIDIA L20 vs NVIDIA L40

8

NVIDIA L40 vs NVIDIA Quadro Plex 2200 S4

9

NVIDIA L40 vs NVIDIA Quadro RTX 6000

10

NVIDIA L40 vs Intel Data Center GPU Max 1350

Actualités Connexes

1

Cosplay russe en tant que Marika d'Elden Ring : une silhouette époustouflante dans une robe à fente haute

2

AMD Brevette un GPU à Conception Multi-Puces avec des Capacités Multi-Mode Configurables

3

MSI dévoile un ordinateur portable équipé d'une puce AMD Ryzen AI 300 au Computex Taipei 2024

4

Intel publie une mise à jour du BIOS pour résoudre les problèmes de stabilité des processeurs Core de 13e et 14e génération