NVIDIA L4 vs AMD Instinct MI300A

VS

NVIDIA L4 AMD Instinct MI300A

我們比較了兩個定位於專業市場的GPU：24GB顯存的 L4 與 128GB顯存的 AMD Instinct MI300A 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

NVIDIA L4 的優勢

更低的TDP功耗(72W vs 760W)

AMD Instinct MI300A 的優勢

發布時間晚 9 個月

最大睿頻提高3% (2100MHz vs 2040MHz)

更大的顯存 (128GB vs 24GB)

更大的顯存頻寬 (5300GB/s vs 300.1GB/s)

多出7168個渲染核心

評分

基準測試

FP32浮點性能

L4

30.29 TFLOPS

AMD Instinct MI300A +304%

122.6 TFLOPS

L4

VS

AMD Instinct MI300A

基本信息

2023年3月

發佈日期

2023年12月

Tesla Ada

產品系列

Instinct

專業

類型

專業

PCIe 4.0 x16

總線介面

PCIe 5.0 x16

時鐘速度

795 MHz

基礎頻率

1000 MHz

2040 MHz

最大睿頻

2100 MHz

1563 MHz

顯存頻率

5200 MHz

顯存

24GB

顯存容量

128GB

GDDR6

顯存類型

HBM3

192bit

顯存位寬

8192bit

300.1GB/s

顯存帶寬

5300GB/s

渲染規格

60

GPU大核數量

-

計算單元

228

7424

流處理器數量

14592

240

紋理單元

880

80

光柵單元

0

240

張量核心

-

60

光追核心

-

128 KB (per SM)

一級緩存

16 KB (per CU)

48 MB

二級緩存

16 MB

理論性能

163.2 GPixel/s

像素填充率

0 MPixel/s

489.6 GTexel/s

紋理填充率

1496 GTexel/s

30.29 TFLOPS

FP16性能

980.6 TFLOPS

30.29 TFLOPS

FP32性能

122.6 TFLOPS

473.3 GFLOPS

FP64性能

61.3 TFLOPS

圖形處理器

AD104

GPU型號

MI300

AD104-???-A1

GPU規格

-

Ada Lovelace

架構

CDNA 3.0

TSMC

晶片廠

TSMC

5 nm

晶片工藝

5 nm

358 億

晶體管數量

1460 億

294 mm²

晶片面積

1017 mm²

主機板設計

72W

功率消耗

760W

250 W

建議電源功率

1000 W

No outputs

輸出介面

No outputs

1x 16-pin

電源接口

None

圖形特性

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.7

Shader Model

N/A

NVIDIA L4 vs AMD Instinct MI300A

主要差異

評分

基準測試

基本信息

時鐘速度

顯存

渲染規格

理論性能

圖形處理器

主機板設計

圖形特性

相關GPU比較