NVIDIA H100 SXM5 96 GB

這是一款採用了台積電 4nm工藝的GPU，採用Nvidia Hopper架構，上市時間為2022年3月22日。具有 800億個晶體管、16896 個 CUDA 核心和 96GB HBM3 顯存，具備 50MB 二級緩存，理論算力66.908TFLOPS，總功耗為700W。

基本信息

[舉報問題]

發佈日期

2022年3月

產品系列

Tesla Hopper

類型

專業

總線介面

PCIe 5.0 x16

時鐘速度

[舉報問題]

基礎頻率

1665 MHz

最大睿頻

1837 MHz

顯存頻率

1313 MHz

顯存

[舉報問題]

顯存容量

96GB

顯存類型

HBM3

顯存位寬

5120bit

顯存帶寬

3350GB/s

渲染規格

[舉報問題]

GPU大核數量

132

流處理器數量

16896

紋理單元

528

光柵單元

24

張量核心

528

一級緩存

256 KB (per SM)

二級緩存

50 MB

理論性能

[舉報問題]

像素填充率

44.09 GPixel/s

紋理填充率

969.9 GTexel/s

FP16性能

248.3 TFLOPS

FP32性能

66.908 TFLOPS

FP64性能

31.04 TFLOPS

圖形處理器

[舉報問題]

GPU型號

GH100

架構

Hopper

晶片廠

TSMC

晶片工藝

4 nm

晶體管數量

800億

晶片面積

814mm²

主機板設計

[舉報問題]

功率消耗

700W

建議電源功率

1100 W

輸出介面

No outputs

電源接口

8-pin EPS

圖形特性

[舉報問題]

DirectX

N/A

OpenGL

N/A

OpenCL

3.0

Vulkan

N/A

CUDA

9.0

Shader Model

N/A

排行榜

[舉報問題]

FP32浮點性能

AMD Radeon RX 7950 XTX 24 GB GDDR6

81.1 TFLOPS

NVIDIA GeForce RTX 4080 Ti 20 GB GDDR6X

67.58 TFLOPS

H200 SXM 141 GB HBM3e

67 TFLOPS

NVIDIA H100 SXM5 96 GB 96 GB HBM3

66.98 TFLOPS

NVIDIA H100 SXM5 80 GB HBM3

66.91 TFLOPS

NVIDIA H100 SXM5 64 GB 64 GB HBM3

66.91 TFLOPS

NVIDIA H100 SXM5 80 GB 80 GB HBM3

66.91 TFLOPS

相關對比

1

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 96 GB

2

NVIDIA H100 SXM5 96 GB vs NVIDIA GRID RTX T10 4

3

NVIDIA H100 SXM5 96 GB vs NVIDIA A800 PCIe 80 GB

4

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 96 GB

5

NVIDIA Tesla T4 vs NVIDIA H100 SXM5 96 GB

6

NVIDIA H100 SXM5 96 GB vs NVIDIA A100 PCIe 80 GB

7

NVIDIA GeForce RTX 4090 vs NVIDIA H100 SXM5 96 GB

8

NVIDIA H100 SXM5 96 GB vs NVIDIA Quadro 2000M

9

NVIDIA H100 SXM5 96 GB vs AMD Radeon Instinct MI300

10

NVIDIA H100 SXM5 96 GB vs NVIDIA Quadro RTX 8000