NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 64 GB

VS

NVIDIA A100 SXM4 40 GB NVIDIA H100 SXM5 64 GB

我们比较了两个定位的GPU：40GB显存的 A100 SXM4 40 GB 与 64GB显存的 H100 SXM5 64 GB 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。

主要差异

NVIDIA A100 SXM4 40 GB的优势

更大的显存带宽 (1555GB/s 与 1008GB/s)

更低的TDP功耗 (400W 与 700W)

NVIDIA H100 SXM5 64 GB的优势

发布时间晚2年10个月

最大睿频提高40% (1980MHz 与 1410MHz)

更大的显存 (64GB 与 40GB)

多出9984个渲染核心

评分

基准测试

FP32浮点性能

A100 SXM4 40 GB

19.49 TFLOPS

H100 SXM5 64 GB +243%

66.91 TFLOPS

A100 SXM4 40 GB

VS

H100 SXM5 64 GB

基本信息

2020年5月

发布日期

2023年3月

Tesla Ampere

产品系列

Tesla Hopper

AI加速卡

类型

AI加速卡

PCIe 4.0 x16

总线接口

PCIe 5.0 x16

时钟速度

1095 MHz

基础频率

1665 MHz

1410 MHz

最大睿频

1980 MHz

1215 MHz

显存频率

1313 MHz

显存

40GB

显存容量

64GB

HBM2e

显存类型

HBM3

5120bit

显存位宽

3072bit

1555 GB/s

显存带宽

1008 GB/s

渲染规格

108

GPU大核数量

132

-

计算单元数

-

6912

流处理器数量

16896

432

纹理单元

528

160

光栅单元

24

432

张量核心

528

-

光追核心

-

192 KB (per SM)

一级缓存

256 KB (per SM)

40 MB

二级缓存

50 MB

理论性能

225.6 GPixel/s

像素填充率

47.52 GPixel/s

609.1 GTexel/s

纹理填充率

1045 GTexel/s

77.97 TFLOPS

FP16性能

267.6 TFLOPS

19.49 TFLOPS

FP32性能

66.91 TFLOPS

9.746 TFLOPS

FP64性能

33.45 TFLOPS

图形处理器

GA100

GPU型号

GH100

-

GPU规格

-

Ampere

架构

Hopper

TSMC

芯片厂

TSMC

7 nm

芯片工艺

4 nm

542亿

晶体管数量

800亿

826mm²

芯片面积

814mm²

板卡设计

400W

功耗

700W

800 W

建议电源功率

1100 W

No outputs

输出接口

No outputs

None

电源接口

8-pin EPS

图形特性

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

Shader Model

N/A

相关GPU对比

1

NVIDIA A100 PCIe vs NVIDIA A100 SXM4 40 GB

2

NVIDIA GeForce RTX 4090 vs NVIDIA A100 SXM4 40 GB

3

NVIDIA A100 SXM4 40 GB vs NVIDIA A100 PCIe 80 GB

4

NVIDIA Tesla V100 PCIe 16 GB vs NVIDIA A100 SXM4 40 GB

5

NVIDIA L40 vs NVIDIA A100 SXM4 40 GB

6

NVIDIA A100 SXM4 40 GB vs NVIDIA Quadro RTX 8000

7

NVIDIA A100 SXM4 40 GB vs NVIDIA Tesla V100 SXM3 32 GB

8

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 PCIe

9

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5

10

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 64 GB