NVIDIA L4 vs AMD Instinct MI300A

VS

NVIDIA L4 AMD Instinct MI300A

Comparamos duas GPUs Mercado profissional: 24GB de VRAM L4 e 128GB de VRAM AMD Instinct MI300A para ver qual GPU possui melhor desempenho em especificações-chave, testes de referência, consumo de energia, etc.

Principais Diferenças

NVIDIA L4 Vantagens

TDP mais baixo (72W vs 760W)

AMD Instinct MI300A Vantagens

Lançado 9 meses atrasado

Relógio Boost aumentou em 3% (2100MHz vs 2040MHz)

Mais VRAM (128GB vs 24GB)

Maior largura de banda VRAM (5300GB/s vs 300.1GB/s)

7168 núcleos adicionais de renderização

Pontuação

Benchmark

FP32 (flutuante)

L4

30.29 TFLOPS

AMD Instinct MI300A +304%

122.6 TFLOPS

L4

VS

AMD Instinct MI300A

Placa de vídeo

mar. 2023

Data de Lançamento

dez. 2023

Tesla Ada

Geração

Instinct

Profissional

Tipo

Profissional

PCIe 4.0 x16

Interface de Ônibus

PCIe 5.0 x16

Velocidades de Relógio

795 MHz

Relógio Base

1000 MHz

2040 MHz

Relógio Boost

2100 MHz

1563 MHz

Relógio de Memória

5200 MHz

Memória

24GB

Tamanho da Memória

128GB

GDDR6

Tipo de Memória

HBM3

192bit

Barramento de Memória

8192bit

300.1GB/s

Largura de Banda

5300GB/s

Configuração de Renderização

60

Contagem de SM

-

Unidades de Cálculo

228

7424

Unidades de Sombreamento

14592

240

TMUs

880

80

ROPs

0

240

Núcleos Tensor

-

60

Núcleos RT

-

128 KB (per SM)

Cache L1

16 KB (per CU)

48 MB

Cache L2

16 MB

Desempenho Teórico

163.2 GPixel/s

Taxa de Pixel

0 MPixel/s

@($"{Model.value}{Model.unit}")

Taxa de Textura

@($"{Model.value}{Model.unit}")

30.29 TFLOPS

FP16 (metade)

980.6 TFLOPS

30.29 TFLOPS

FP32 (flutuante)

122.6 TFLOPS

473.3 GFLOPS

FP64 (duplo)

61.3 TFLOPS

Processador Gráfico

AD104

Nome da GPU

MI300

AD104-???-A1

Variante da GPU

-

Ada Lovelace

Arquitetura

CDNA 3.0

TSMC

Fundição

TSMC

5 nm

Tamanho do Processo

5 nm

35.8 bilhão

Transistores

146 bilhão

294 mm²

Tamanho do Die

1017 mm²

Design da Placa

72W

TDP

760W

250 W

PSU Sugerido

1000 W

No outputs

Saídas

No outputs

1x 16-pin

Conectores de Energia

None

Recursos Gráficos

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.7

Modelo de Shader

N/A

Comparação de GPUs Relacionadas

1

NVIDIA Tesla T4 vs NVIDIA L4

2

NVIDIA L4 vs NVIDIA Tesla V100 PCIe 32 GB

3

NVIDIA L4 vs NVIDIA A100 PCIe

4

NVIDIA A10 PCIe vs NVIDIA L4

5

NVIDIA GeForce RTX 4090 D vs NVIDIA L4

6

NVIDIA L4 vs NVIDIA L40

7

NVIDIA L4 vs NVIDIA A100 PCIe 80 GB

8

NVIDIA L4 vs NVIDIA Quadro P5000 Mobile

9

NVIDIA L4 vs NVIDIA Quadro GV100

10

NVIDIA L4 vs NVIDIA Tesla P10