AMD Instinct MI300A vs NVIDIA L40 CNX

VS

Comparamos dos GPUs de mercado profesional: 128GB VRAM AMD Instinct MI300A y 24GB VRAM L40 CNX para ver qué GPU tiene un mejor rendimiento en especificaciones clave, pruebas de referencia, consumo de energía, etc.

Principales Diferencias

AMD Instinct MI300A Ventajas de

Lanzado 1 años y 2 meses tarde

Más VRAM (128GB vs 24GB)

Mayor ancho de banda de VRAM (5300GB/s vs 864.0GB/s)

NVIDIA L40 CNX Ventajas de

Reloj de impulso ha aumentado en un 18% (2475MHz vs 2100MHz)

3584 núcleos de renderizado adicionales

Menor TDP (300W vs 760W)

Puntuación

Prueba de rendimiento

FP32 (flotante)

AMD Instinct MI300A +36%

122.6 TFLOPS

L40 CNX

89.97 TFLOPS

AMD Instinct MI300A

VS

L40 CNX

Tarjeta gráfica

dic 2023

Fecha de lanzamiento

oct 2022

Instinct

Generación

Tesla Ada

Profesional

Tipo

Profesional

PCIe 5.0 x16

Interfaz de bus

PCIe 4.0 x16

Velocidades de reloj

1000 MHz

Reloj base

1005 MHz

2100 MHz

Reloj de impulso

2475 MHz

5200 MHz

Reloj de memoria

2250 MHz

Memoria

128GB

Tamaño de memoria

24GB

HBM3

Tipo de memoria

GDDR6

8192bit

Bus de memoria

384bit

5300GB/s

Ancho de banda

864.0GB/s

Config. renderizado

-

Cuenta de SM

142

228

Unidades de cálculo

-

14592

Unidades de sombreado

18176

880

TMUs

568

0

ROPs

192

-

Núcleos tensor

568

-

Núcleos RT

142

16 KB (per CU)

Caché L1

128 KB (per SM)

16 MB

Caché L2

48 MB

Rendimiento teórico

0 MPixel/s

Tasa de píxeles

475.2 GPixel/s

1496 GTexel/s

Tasa de texturas

1406 GTexel/s

980.6 TFLOPS

FP16 (mitad)

89.97 TFLOPS

122.6 TFLOPS

FP32 (flotante)

89.97 TFLOPS

61.3 TFLOPS

FP64 (doble)

1406 GFLOPS

Procesador gráfico

MI300

Nombre GPU

AD102

-

Variante GPU

AD102-???-A1

CDNA 3.0

Arquitectura

Ada Lovelace

TSMC

Fundición

TSMC

5 nm

Tamaño proceso

4 nm

146 mil millones

Transistores

76.3 mil millones

1017 mm²

Tamaño de dado

608 mm²

Diseño de placa

760W

TDP

300W

1000 W

PSU sugerida

700 W

No outputs

Salidas

1x HDMI 2.1 3x DisplayPort 1.4a

None

Conectores de alimentación

1x 16-pin

Funciones gráficas

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

Modelo de sombreado

6.6

Comparaciones de GPU relacionadas

1

AMD Instinct MI300A vs AMD Instinct MI300X

2

AMD Instinct MI300A vs NVIDIA Tesla T10 Processor

3

NVIDIA L4 vs AMD Instinct MI300A

4

NVIDIA L40 vs AMD Instinct MI300A

5

AMD Instinct MI300A vs Intel Data Center GPU Max 1350

6

NVIDIA Tesla V100 SXM2 16 GB vs AMD Instinct MI300A

7

AMD Instinct MI300A vs NVIDIA Quadro NVS 130M

8

AMD Instinct MI300A vs NVIDIA Quadro 6000 SDI

9

AMD Instinct MI300A vs NVIDIA RTX A4000

10

AMD Instinct MI300A vs NVIDIA Quadro FX 4600 SDI