NVIDIA L40 vs AMD Radeon Instinct MI300

VS

Nous avons comparé deux GPUs Marché professionnel: 48GB VRAM L40 et 128GB VRAM Radeon Instinct MI300 pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.

Différences principales

NVIDIA L40 Avantages de

Horloge Boost a augmenté de 46% (2490MHz vs 1700MHz)

4096 cœurs de rendu supplémentaires

Consommation d'énergie plus faible (300W vs 600W)

AMD Radeon Instinct MI300 Avantages de

Plus de VRAM (128GB vs 48GB)

Bande passante VRAM plus élevée (3277GB/s vs 864.0GB/s)

Score

Benchmark

FP32 (flottant)

L40 +89%

90.52 TFLOPS

Radeon Instinct MI300

47.87 TFLOPS

L40

VS

Radeon Instinct MI300

Carte graphique

oct. 2022

Date de sortie

janv. 2023

Tesla Ada

Génération

Radeon Instinct

Professionnel

Type

Professionnel

PCIe 4.0 x16

Interface de bus

PCIe 5.0 x16

Vitesses d'horloge

735 MHz

Horloge de base

1000 MHz

2490 MHz

Horloge Boost

1700 MHz

2250 MHz

Horloge Mémoire

1600 MHz

Mémoire

48GB

Taille de Mémoire

128GB

GDDR6

Type de Mémoire

HBM3

384bit

Bus de Mémoire

8192bit

864.0GB/s

Bande Passante

3277GB/s

Config de rendu

142

Nombre de SM

-

Unités de calcul

220

18176

Unités d'Ombrage

14080

568

TMUs

880

192

ROPs

0

568

Cœurs de Tensor

880

142

Cœurs RT

-

128 KB (per SM)

Cache L1

16 KB (per CU)

96 MB

Cache L2

16 MB

Performance théorique

478.1 GPixel/s

Taux de Pixel

0 MPixel/s

1414 GTexel/s

Taux de Texture

1496 GTexel/s

90.52 TFLOPS

FP16 (demi)

383.0 TFLOPS

90.52 TFLOPS

FP32 (flottant)

47.87 TFLOPS

1414 GFLOPS

FP64 (double précision)

47.87 TFLOPS

Processeur graphique

AD102

Nom du GPU

Aqua Vanjaram

AD102-895-A1

Variante de GPU

-

Ada Lovelace

Architecture

CDNA 3.0

TSMC

Fonderie

TSMC

4 nm

Taille de processus

5 nm

76.3 milliard

Transistors

153 milliard

608 mm²

Taille de Die

1017 mm²

Conception de carte

300W

TDP

600W

700 W

Alimentation suggérée

1000 W

4x DisplayPort 1.4a

Sorties

No outputs

1x 16-pin

Connecteurs d'alimentation

2x 8-pin

Fonctions graphiques

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.6

Modèle de shader

N/A

Comparaisons GPU liées

1

NVIDIA L40 vs NVIDIA L40S

2

NVIDIA A100 PCIe vs NVIDIA L40

3

NVIDIA RTX A6000 vs NVIDIA L40

4

NVIDIA L40 vs NVIDIA GeForce RTX 4090

5

NVIDIA L4 vs NVIDIA L40

6

NVIDIA A40 PCIe vs NVIDIA L40

7

NVIDIA L40 vs NVIDIA Tesla V100 PCIe 32 GB

8

NVIDIA L40 vs NVIDIA Quadro NVS 440 PCIe x16

9

NVIDIA L40 vs NVIDIA Quadro P3200 Mobile

10

NVIDIA L40 vs NVIDIA RTX A1000 Embedded