AMD Instinct MI300A vs NVIDIA L40 CNX

VS

Kami membandingkan dua GPU Pasaran Profesional: 128GB VRAM AMD Instinct MI300A dan 24GB VRAM L40 CNX untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

AMD Instinct MI300A Kelebihan

Dikeluarkan lewat 1 tahun dan 2 bulan

Lebih VRAM (128GB berbanding 24GB)

Lebar jalur VRAM yang lebih besar (5300GB/s berbanding 864.0GB/s)

NVIDIA L40 CNX Kelebihan

Jam Peningkatan telah meningkat sebanyak 18% (2475MHz berbanding 2100MHz)

3584 inti pemprosesan tambahan

TDP yang lebih rendah (300W vs 760W)

Skor

Penilaian

FP32 (float)

AMD Instinct MI300A +36%

122.6 TFLOPS

L40 CNX

89.97 TFLOPS

AMD Instinct MI300A

VS

L40 CNX

Kad Grafik

Dis 2023

Tarikh Keluaran

Okt 2022

Instinct

Generasi

Tesla Ada

Profesional

Jenis

Profesional

PCIe 5.0 x16

Antaramuka Bas

PCIe 4.0 x16

Kelajuan Jam

1000 MHz

Jam Asas

1005 MHz

2100 MHz

Jam Peningkatan

2475 MHz

5200 MHz

Jam Memori

2250 MHz

Memori

128GB

Saiz Memori

24GB

HBM3

Jenis Memori

GDDR6

8192bit

Bas Memori

384bit

5300GB/s

Lebar Jalur

864.0GB/s

Konfigurasi Render

-

Bilangan SM

142

228

Unit Pengiraan

-

14592

Unit Shading

18176

880

TMUs

568

0

ROPs

192

-

Teras Tensor

568

-

Teras RT

142

16 KB (per CU)

Cache L1

128 KB (per SM)

16 MB

Cache L2

48 MB

Prestasi Teoretis

0 MPixel/s

Kadar Piksel

475.2 GPixel/s

1496 GTexel/s

Kadar Tekstur

1406 GTexel/s

980.6 TFLOPS

FP16 (setengah)

89.97 TFLOPS

122.6 TFLOPS

FP32 (apung)

89.97 TFLOPS

61.3 TFLOPS

FP64 (dua kali)

1406 GFLOPS

Pemproses Grafik

MI300

Nama GPU

AD102

-

Varian GPU

AD102-???-A1

CDNA 3.0

Seni Bina

Ada Lovelace

TSMC

Pencetak

TSMC

5 nm

Saiz Proses

4 nm

146 bilion

Transistor

76.3 bilion

1017 mm²

Saiz Die

608 mm²

Reka Bentuk Papan

760W

TDP

300W

1000 W

PSU Dicadangkan

700 W

No outputs

Output

1x HDMI 2.1 3x DisplayPort 1.4a

None

Penyambung Kuasa

1x 16-pin

Ciri-ciri Grafik

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

Model Shader

6.6

Perbandingan GPU Berkaitan

1

AMD Instinct MI300A vs AMD Instinct MI300X

2

AMD Instinct MI300A vs NVIDIA Tesla T10 Processor

3

NVIDIA L4 vs AMD Instinct MI300A

4

AMD Instinct MI300A vs Intel Data Center GPU Max 1350

5

NVIDIA L40 vs AMD Instinct MI300A

6

NVIDIA Tesla V100 SXM2 16 GB vs AMD Instinct MI300A

7

AMD Instinct MI300A vs NVIDIA Quadro NVS 130M

8

AMD Instinct MI300A vs NVIDIA Quadro FX 1700M

9

AMD Instinct MI300A vs Intel Data Center GPU Max Subsystem

10

AMD Instinct MI300A vs NVIDIA Quadro M3000M