NVIDIA A40 PCIe vs NVIDIA H100 SXM5 80 GB

VS

NVIDIA A40 PCIe NVIDIA H100 SXM5 80 GB

AI GPU 我們比較了定位於桌面平台的48GB顯存 A40 PCIe 與定位於的80GB顯存 H100 SXM5 80 GB 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

NVIDIA A40 PCIe 的優勢

更低的TDP功耗(300W vs 700W)

NVIDIA H100 SXM5 80 GB 的優勢

發布時間晚 2 年5 個月

最大睿頻提高14% (1980MHz vs 1740MHz)

更大的顯存 (80GB vs 48GB)

更大的顯存頻寬 (1681GB/s vs 695.8GB/s)

多出6144個渲染核心

評分

基準測試

FP32浮點性能

A40 PCIe

37.42 TFLOPS

H100 SXM5 80 GB +78%

66.91 TFLOPS

A40 PCIe

VS

H100 SXM5 80 GB

基本信息

2020年10月

發佈日期

2023年3月

Tesla

產品系列

Tesla Hopper

桌面

類型

AI GPU

PCIe 4.0 x16

總線介面

PCIe 5.0 x16

時鐘速度

1305 MHz

基礎頻率

1590 MHz

1740 MHz

最大睿頻

1980 MHz

1812 MHz

顯存頻率

1313 MHz

顯存

48GB

顯存容量

80GB

GDDR6

顯存類型

HBM3

384bit

顯存位寬

5120bit

695.8GB/s

顯存帶寬

1681GB/s

渲染規格

84

GPU大核數量

132

-

計算單元

-

10752

流處理器數量

16896

336

紋理單元

528

112

光柵單元

24

336

張量核心

528

84

光追核心

-

128 KB (per SM)

一級緩存

256 KB (per SM)

6 MB

二級緩存

50 MB

理論性能

194.9 GPixel/s

像素填充率

47.52 GPixel/s

584.6 GTexel/s

紋理填充率

1045 GTexel/s

37.42 TFLOPS

FP16性能

267.6 TFLOPS

37.42 TFLOPS

FP32性能

66.91 TFLOPS

584.6 GFLOPS

FP64性能

33.45 TFLOPS

圖形處理器

GA102

GPU型號

GH100

-

GPU規格

-

Ampere

架構

Hopper

Samsung

晶片廠

TSMC

8 nm

晶片工藝

4 nm

283 億

晶體管數量

800 億

628 mm²

晶片面積

814 mm²

主機板設計

300W

功率消耗

700W

700 W

建議電源功率

1100 W

3x DisplayPort 1.4a

輸出介面

No outputs

8-pin EPS

電源接口

8-pin EPS

圖形特性

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.6

CUDA

9.0

6.6

Shader Model

N/A

NVIDIA A40 PCIe vs NVIDIA H100 SXM5 80 GB

主要差異

評分

基準測試

基本信息

時鐘速度

顯存

渲染規格

理論性能

圖形處理器

主機板設計

圖形特性

相關GPU比較