AMD Instinct MI300A vs NVIDIA L40 CNX

VS

Comparamos duas GPUs Mercado profissional: 128GB de VRAM AMD Instinct MI300A e 24GB de VRAM L40 CNX para ver qual GPU possui melhor desempenho em especificações-chave, testes de referência, consumo de energia, etc.

Principais Diferenças

AMD Instinct MI300A Vantagens

Lançado 1 anos e 2 meses atrasado

Mais VRAM (128GB vs 24GB)

Maior largura de banda VRAM (5300GB/s vs 864.0GB/s)

NVIDIA L40 CNX Vantagens

Relógio Boost aumentou em 18% (2475MHz vs 2100MHz)

3584 núcleos adicionais de renderização

TDP mais baixo (300W vs 760W)

Pontuação

Benchmark

FP32 (flutuante)

AMD Instinct MI300A +36%

122.6 TFLOPS

L40 CNX

89.97 TFLOPS

AMD Instinct MI300A

VS

L40 CNX

Placa de vídeo

dez. 2023

Data de Lançamento

out. 2022

Instinct

Geração

Tesla Ada

Profissional

Tipo

Profissional

PCIe 5.0 x16

Interface de Ônibus

PCIe 4.0 x16

Velocidades de Relógio

1000 MHz

Relógio Base

1005 MHz

2100 MHz

Relógio Boost

2475 MHz

5200 MHz

Relógio de Memória

2250 MHz

Memória

128GB

Tamanho da Memória

24GB

HBM3

Tipo de Memória

GDDR6

8192bit

Barramento de Memória

384bit

5300GB/s

Largura de Banda

864.0GB/s

Configuração de Renderização

-

Contagem de SM

142

228

Unidades de Cálculo

-

14592

Unidades de Sombreamento

18176

880

TMUs

568

0

ROPs

192

-

Núcleos Tensor

568

-

Núcleos RT

142

16 KB (per CU)

Cache L1

128 KB (per SM)

16 MB

Cache L2

48 MB

Desempenho Teórico

0 MPixel/s

Taxa de Pixel

475.2 GPixel/s

@($"{Model.value}{Model.unit}")

Taxa de Textura

@($"{Model.value}{Model.unit}")

980.6 TFLOPS

FP16 (metade)

89.97 TFLOPS

122.6 TFLOPS

FP32 (flutuante)

89.97 TFLOPS

61.3 TFLOPS

FP64 (duplo)

1406 GFLOPS

Processador Gráfico

MI300

Nome da GPU

AD102

-

Variante da GPU

AD102-???-A1

CDNA 3.0

Arquitetura

Ada Lovelace

TSMC

Fundição

TSMC

5 nm

Tamanho do Processo

4 nm

146 bilhão

Transistores

76.3 bilhão

1017 mm²

Tamanho do Die

608 mm²

Design da Placa

760W

TDP

300W

1000 W

PSU Sugerido

700 W

No outputs

Saídas

1x HDMI 2.1 3x DisplayPort 1.4a

None

Conectores de Energia

1x 16-pin

Recursos Gráficos

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

Modelo de Shader

6.6

Comparação de GPUs Relacionadas

1

AMD Instinct MI300A vs AMD Instinct MI300X

2

NVIDIA L40 vs AMD Instinct MI300A

3

NVIDIA Jetson AGX Orin 64 GB vs AMD Instinct MI300A

4

NVIDIA RTX A2000 12 GB vs AMD Instinct MI300A

5

AMD Radeon Instinct MI8 vs AMD Instinct MI300A

6

AMD Instinct MI300A vs NVIDIA Tesla T10 Processor

7

AMD Instinct MI300A vs AMD Radeon PRO W7800

8

AMD Instinct MI300A vs NVIDIA Tesla M2070 Q

9

AMD Instinct MI300A vs NVIDIA RTX A4000 Mobile

10

AMD Instinct MI300A vs NVIDIA Quadro RTX 4000 Max Q