AMD Instinct MI300X vs NVIDIA H100 SXM5 80 GB

VS

AMD Instinct MI300X NVIDIA H100 SXM5 80 GB

我们比较了定位专业市场的192GB显存 AMD Instinct MI300X 与定位的80GB显存 H100 SXM5 80 GB 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。

主要差异

AMD Instinct MI300X的优势

发布时间晚9个月

最大睿频提高6% (2100MHz 与 1980MHz)

更大的显存 (192GB 与 80GB)

更大的显存带宽 (5300GB/s 与 1681GB/s)

多出2560个渲染核心

NVIDIA H100 SXM5 80 GB的优势

更低的TDP功耗 (700W 与 750W)

评分

基准测试

FP32浮点性能

AMD Instinct MI300X +144%

163.4 TFLOPS

H100 SXM5 80 GB

66.91 TFLOPS

AMD Instinct MI300X

VS

H100 SXM5 80 GB

基本信息

2023年12月

发布日期

2023年3月

Instinct

产品系列

Tesla Hopper

专业

类型

AI加速卡

PCIe 5.0 x16

总线接口

PCIe 5.0 x16

时钟速度

1000 MHz

基础频率

1590 MHz

2100 MHz

最大睿频

1980 MHz

5200 MHz

显存频率

1313 MHz

显存

192GB

显存容量

80GB

HBM3

显存类型

HBM3

8192bit

显存位宽

5120bit

5300 GB/s

显存带宽

1681 GB/s

渲染规格

-

GPU大核数量

132

304

计算单元数

-

19456

流处理器数量

16896

880

纹理单元

528

0

光栅单元

24

-

张量核心

528

-

光追核心

-

16 KB (per CU)

一级缓存

256 KB (per SM)

16 MB

二级缓存

50 MB

理论性能

0 MPixel/s

像素填充率

47.52 GPixel/s

1496 GTexel/s

纹理填充率

1045 GTexel/s

1300 TFLOPS

FP16性能

267.6 TFLOPS

163.4 TFLOPS

FP32性能

66.91 TFLOPS

81.7 TFLOPS

FP64性能

33.45 TFLOPS

图形处理器

MI300

GPU型号

GH100

-

GPU规格

-

CDNA 3.0

架构

Hopper

TSMC

芯片厂

TSMC

5 nm

芯片工艺

4 nm

1460亿

晶体管数量

800亿

1017mm²

芯片面积

814mm²

板卡设计

750W

功耗

700W

1000 W

建议电源功率

1100 W

No outputs

输出接口

No outputs

None

电源接口

8-pin EPS

图形特性

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

9.0

N/A

Shader Model

N/A