AMD Instinct MI300X vs NVIDIA H100 PCIe 80 GB

VS

AMD Instinct MI300X NVIDIA H100 PCIe 80 GB

AI GPU 我們比較了定位於專業市場的192GB顯存 AMD Instinct MI300X 與定位於的80GB顯存 H100 PCIe 80 GB 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

AMD Instinct MI300X 的優勢

發布時間晚 9 個月

最大睿頻提高20% (2100MHz vs 1755MHz)

更大的顯存 (192GB vs 80GB)

更大的顯存頻寬 (5300GB/s vs 2039GB/s)

多出4864個渲染核心

NVIDIA H100 PCIe 80 GB 的優勢

更低的TDP功耗(350W vs 750W)

評分

基準測試

FP32浮點性能

AMD Instinct MI300X +219%

163.4 TFLOPS

H100 PCIe 80 GB

51.22 TFLOPS

AMD Instinct MI300X

VS

H100 PCIe 80 GB

基本信息

2023年12月

發佈日期

2023年3月

Instinct

產品系列

Tesla Hopper

專業

類型

AI GPU

PCIe 5.0 x16

總線介面

PCIe 5.0 x16

時鐘速度

1000 MHz

基礎頻率

1095 MHz

2100 MHz

最大睿頻

1755 MHz

5200 MHz

顯存頻率

1593 MHz

顯存

192GB

顯存容量

80GB

HBM3

顯存類型

HBM2e

8192bit

顯存位寬

5120bit

5300GB/s

顯存帶寬

2039GB/s

渲染規格

-

GPU大核數量

114

304

計算單元

-

19456

流處理器數量

14592

880

紋理單元

456

0

光柵單元

24

-

張量核心

456

-

光追核心

-

16 KB (per CU)

一級緩存

256 KB (per SM)

16 MB

二級緩存

50 MB

理論性能

0 MPixel/s

像素填充率

42.12 GPixel/s

1496 GTexel/s

紋理填充率

800.3 GTexel/s

1300 TFLOPS

FP16性能

204.9 TFLOPS

163.4 TFLOPS

FP32性能

51.22 TFLOPS

81.7 TFLOPS

FP64性能

25.61 TFLOPS

圖形處理器

MI300

GPU型號

GH100

-

GPU規格

-

CDNA 3.0

架構

Hopper

TSMC

晶片廠

TSMC

5 nm

晶片工藝

4 nm

1460 億

晶體管數量

800 億

1017 mm²

晶片面積

814 mm²

主機板設計

750W

功率消耗

350W

1000 W

建議電源功率

750 W

No outputs

輸出介面

No outputs

None

電源接口

1x 16-pin

圖形特性

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

9.0

N/A

Shader Model

N/A