NVIDIA H100 SXM5 80 GB vs AMD Instinct MI300X

VS

NVIDIA H100 SXM5 80 GB AMD Instinct MI300X

我们比较了定位的80GB显存 H100 SXM5 80 GB 与定位专业市场的192GB显存 AMD Instinct MI300X 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。

主要差异

NVIDIA H100 SXM5 80 GB的优势

更低的TDP功耗 (700W 与 750W)

AMD Instinct MI300X的优势

发布时间晚9个月

最大睿频提高6% (2100MHz 与 1980MHz)

更大的显存 (192GB 与 80GB)

更大的显存带宽 (5300GB/s 与 1681GB/s)

多出2560个渲染核心

评分

基准测试

FP32浮点性能

H100 SXM5 80 GB

66.91 TFLOPS

AMD Instinct MI300X +144%

163.4 TFLOPS

H100 SXM5 80 GB

VS

AMD Instinct MI300X

基本信息

2023年3月

发布日期

2023年12月

Tesla Hopper

产品系列

Instinct

AI加速卡

类型

专业

PCIe 5.0 x16

总线接口

PCIe 5.0 x16

时钟速度

1590 MHz

基础频率

1000 MHz

1980 MHz

最大睿频

2100 MHz

1313 MHz

显存频率

5200 MHz

显存

80GB

显存容量

192GB

HBM3

显存类型

HBM3

5120bit

显存位宽

8192bit

1681 GB/s

显存带宽

5300 GB/s

渲染规格

132

GPU大核数量

-

计算单元数

304

16896

流处理器数量

19456

528

纹理单元

880

24

光栅单元

0

528

张量核心

-

光追核心

-

256 KB (per SM)

一级缓存

16 KB (per CU)

50 MB

二级缓存

16 MB

理论性能

47.52 GPixel/s

像素填充率

0 MPixel/s

1045 GTexel/s

纹理填充率

1496 GTexel/s

267.6 TFLOPS

FP16性能

1300 TFLOPS

66.91 TFLOPS

FP32性能

163.4 TFLOPS

33.45 TFLOPS

FP64性能

81.7 TFLOPS

图形处理器

GH100

GPU型号

MI300

-

GPU规格

-

Hopper

架构

CDNA 3.0

TSMC

芯片厂

TSMC

4 nm

芯片工艺

5 nm

800亿

晶体管数量

1460亿

814mm²

芯片面积

1017mm²

板卡设计

700W

功耗

750W

1100 W

建议电源功率

1000 W

No outputs

输出接口

No outputs

8-pin EPS

电源接口

None

图形特性

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

-

N/A

Shader Model

N/A

相关GPU对比

1

NVIDIA H800 SXM5 vs NVIDIA H100 SXM5 80 GB

2

NVIDIA A40 PCIe vs NVIDIA H100 SXM5 80 GB

3

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 80 GB

4

NVIDIA H100 SXM5 80 GB vs NVIDIA L40S

5

NVIDIA GRID K520Q vs NVIDIA H100 SXM5 80 GB

6

NVIDIA A800 PCIe 40 GB vs NVIDIA H100 SXM5 80 GB

7

H200 SXM vs AMD Instinct MI300X

8

NVIDIA H100 SXM5 80 GB vs NVIDIA H800 SXM5

9

NVIDIA H100 SXM5 80 GB vs NVIDIA A800 PCIe 80 GB

10

NVIDIA H100 SXM5 80 GB vs NVIDIA H100 PCIe 96 GB