NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 80 GB

VS

NVIDIA H100 PCIe 96 GB NVIDIA A100 SXM4 80 GB

我们比较了两个定位的GPU：96GB显存的 H100 PCIe 96 GB 与 80GB显存的 A100 SXM4 80 GB 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。

主要差异

NVIDIA H100 PCIe 96 GB的优势

发布时间晚2年4个月

最大睿频提高30% (1837MHz 与 1410MHz)

更大的显存 (96GB 与 80GB)

多出9984个渲染核心

NVIDIA A100 SXM4 80 GB的优势

更大的显存带宽 (2039GB/s 与 1681GB/s)

更低的TDP功耗 (400W 与 700W)

评分

基准测试

FP32浮点性能

H100 PCIe 96 GB +218%

62.08 TFLOPS

A100 SXM4 80 GB

19.49 TFLOPS

H100 PCIe 96 GB

VS

A100 SXM4 80 GB

基本信息

2023年3月

发布日期

2020年11月

Tesla Hopper

产品系列

Tesla Ampere

AI加速卡

类型

AI加速卡

PCIe 5.0 x16

总线接口

PCIe 4.0 x16

时钟速度

1665 MHz

基础频率

1275 MHz

1837 MHz

最大睿频

1410 MHz

1313 MHz

显存频率

1593 MHz

显存

96GB

显存容量

80GB

HBM3

显存类型

HBM2e

5120bit

显存位宽

5120bit

1681 GB/s

显存带宽

2039 GB/s

渲染规格

132

GPU大核数量

108

-

计算单元数

-

16896

流处理器数量

6912

528

纹理单元

432

24

光栅单元

160

528

张量核心

432

-

光追核心

-

256 KB (per SM)

一级缓存

192 KB (per SM)

50 MB

二级缓存

40 MB

理论性能

44.09 GPixel/s

像素填充率

225.6 GPixel/s

969.9 GTexel/s

纹理填充率

609.1 GTexel/s

248.3 TFLOPS

FP16性能

77.97 TFLOPS

62.08 TFLOPS

FP32性能

19.49 TFLOPS

31.04 TFLOPS

FP64性能

9.746 TFLOPS

图形处理器

GH100

GPU型号

GA100

-

GPU规格

-

Hopper

架构

Ampere

TSMC

芯片厂

TSMC

4 nm

芯片工艺

7 nm

800亿

晶体管数量

542亿

814mm²

芯片面积

826mm²

板卡设计

700W

功耗

400W

1100 W

建议电源功率

800 W

No outputs

输出接口

No outputs

8-pin EPS

电源接口

None

图形特性

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Shader Model

N/A

相关GPU对比

1

NVIDIA RTX 6000 Ada Generation vs NVIDIA H100 PCIe 96 GB

2

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 6000 Ada

3

NVIDIA Tesla K20s vs NVIDIA H100 PCIe 96 GB

4

NVIDIA L40S vs NVIDIA H100 PCIe 96 GB

5

NVIDIA GeForce RTX 4070 Ti vs NVIDIA H100 PCIe 96 GB

6

AMD Radeon Instinct MI50 vs NVIDIA H100 PCIe 96 GB

7

NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 4090

8

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 80 GB

9

NVIDIA H100 PCIe 96 GB vs NVIDIA A800 SXM4 80 GB

10

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 PCIe