AMD Instinct MI300X vs NVIDIA H100 SXM5 80 GB

VS

AMD Instinct MI300X NVIDIA H100 SXM5 80 GB

AI GPU Comparamos uma GPU Mercado profissional: 192GB de VRAM AMD Instinct MI300X e uma GPU : 80GB de VRAM H100 SXM5 80 GB para ver qual GPU possui melhor desempenho em especificações-chave, testes de referência, consumo de energia, etc.

Principais Diferenças

AMD Instinct MI300X Vantagens

Lançado 9 meses atrasado

Relógio Boost aumentou em 6% (2100MHz vs 1980MHz)

Mais VRAM (192GB vs 80GB)

Maior largura de banda VRAM (5300GB/s vs 1681GB/s)

2560 núcleos adicionais de renderização

NVIDIA H100 SXM5 80 GB Vantagens

TDP mais baixo (700W vs 750W)

Pontuação

Benchmark

FP32 (flutuante)

AMD Instinct MI300X +144%

163.4 TFLOPS

H100 SXM5 80 GB

66.91 TFLOPS

AMD Instinct MI300X

VS

H100 SXM5 80 GB

Placa de vídeo

dez. 2023

Data de Lançamento

mar. 2023

Instinct

Geração

Tesla Hopper

Profissional

Tipo

AI GPU

PCIe 5.0 x16

Interface de Ônibus

PCIe 5.0 x16

Velocidades de Relógio

1000 MHz

Relógio Base

1590 MHz

2100 MHz

Relógio Boost

1980 MHz

5200 MHz

Relógio de Memória

1313 MHz

Memória

192GB

Tamanho da Memória

80GB

HBM3

Tipo de Memória

HBM3

8192bit

Barramento de Memória

5120bit

5300GB/s

Largura de Banda

1681GB/s

Configuração de Renderização

-

Contagem de SM

132

304

Unidades de Cálculo

-

19456

Unidades de Sombreamento

16896

880

TMUs

528

0

ROPs

24

-

Núcleos Tensor

528

-

Núcleos RT

-

16 KB (per CU)

Cache L1

256 KB (per SM)

16 MB

Cache L2

50 MB

Desempenho Teórico

0 MPixel/s

Taxa de Pixel

47.52 GPixel/s

@($"{Model.value}{Model.unit}")

Taxa de Textura

@($"{Model.value}{Model.unit}")

1300 TFLOPS

FP16 (metade)

267.6 TFLOPS

163.4 TFLOPS

FP32 (flutuante)

66.91 TFLOPS

81.7 TFLOPS

FP64 (duplo)

33.45 TFLOPS

Processador Gráfico

MI300

Nome da GPU

GH100

-

Variante da GPU

-

CDNA 3.0

Arquitetura

Hopper

TSMC

Fundição

TSMC

5 nm

Tamanho do Processo

4 nm

146 bilhão

Transistores

80 bilhão

1017 mm²

Tamanho do Die

814 mm²

Design da Placa

750W

TDP

700W

1000 W

PSU Sugerido

1100 W

No outputs

Saídas

No outputs

None

Conectores de Energia

8-pin EPS

Recursos Gráficos

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

9.0

N/A

Modelo de Shader

N/A

Comparação de GPUs Relacionadas

1

H200 SXM vs AMD Instinct MI300X

2

AMD Instinct MI300A vs AMD Instinct MI300X

3

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090 D

4

NVIDIA GeForce RTX 4070 vs AMD Instinct MI300X

5

AMD Radeon Instinct MI8 vs AMD Instinct MI300X

6

AMD Instinct MI300X vs NVIDIA GeForce RTX 4090

7

NVIDIA Tesla T4 vs AMD Instinct MI300X

8

AMD Instinct MI300X vs NVIDIA Quadro T1000 Mobile GDDR6

9

AMD Instinct MI300X vs NVIDIA Quadro K4100M

10

AMD Instinct MI300X vs AMD Radeon Instinct MI50