H200 SXM vs NVIDIA A100 PCIe

VS

H200 SXM NVIDIA A100 PCIe

AI GPUAI GPU 我們比較了兩個定位於的GPU：141GB顯存的 H200 SXM 與 40GB顯存的 A100 PCIe 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

H200 SXM 的優勢

發布時間晚 3 年5 個月

最大睿頻提高40% (1980MHz vs 1410MHz)

更大的顯存 (141GB vs 40GB)

更大的顯存頻寬 (4800GB/s vs 1555GB/s)

多出9984個渲染核心

NVIDIA A100 PCIe 的優勢

更低的TDP功耗(250W vs 700W)

評分

基準測試

FP32浮點性能

H200 SXM +243%

67 TFLOPS

A100 PCIe

19.49 TFLOPS

H200 SXM

VS

A100 PCIe

基本信息

2023年11月

發佈日期

2020年6月

Hopper

產品系列

Tesla

AI GPU

類型

AI GPU

PCIe 5.0 x16

總線介面

PCIe 4.0 x16

時鐘速度

1590 MHz

基礎頻率

765 MHz

1980 MHz

最大睿頻

1410 MHz

1313 MHz

顯存頻率

1215 MHz

顯存

141GB

顯存容量

40GB

HBM3e

顯存類型

HBM2e

5120bit

顯存位寬

5120bit

4800GB/s

顯存帶寬

1555GB/s

渲染規格

132

GPU大核數量

108

-

計算單元

-

16896

流處理器數量

6912

528

紋理單元

432

24

光柵單元

160

528

張量核心

432

-

光追核心

-

256 KB (per SM)

一級緩存

192 KB (per SM)

50 MB

二級緩存

40 MB

理論性能

47.52 GPixel/s

像素填充率

225.6 GPixel/s

1045 GTexel/s

紋理填充率

609.1 GTexel/s

1979 TFLOPS

FP16性能

77.97 TFLOPS

67 TFLOPS

FP32性能

19.49 TFLOPS

34 TFLOPS

FP64性能

9.746 TFLOPS

圖形處理器

GH200

GPU型號

GA100

-

GPU規格

-

Hopper

架構

Ampere

TSMC

晶片廠

TSMC

4 nm

晶片工藝

7 nm

800 億

晶體管數量

542 億

814 mm²

晶片面積

826 mm²

主機板設計

700W

功率消耗

250W

1100 W

建議電源功率

600 W

No outputs

輸出介面

No outputs

8-pin EPS

電源接口

8-pin EPS

圖形特性

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Shader Model

N/A