NVIDIA H100 PCIe 96 GB

这是一款采用了台积电 4nm工艺的GPU，采用Nvidia Hopper架构，上市时间为2023年3月21日。具有 800亿个晶体管、16896 个 CUDA 核心和 96GB HBM3 显存，具备 50MB 二级缓存，理论算力62.08TFLOPS，总功耗为700W。

基本信息

[纠错]

发布日期

2023年3月

产品系列

Tesla Hopper

类型

AI加速卡

总线接口

PCIe 5.0 x16

时钟速度

[纠错]

基础频率

1665 MHz

最大睿频

1837 MHz

显存频率

1313 MHz

显存

[纠错]

显存容量

96GB

显存类型

HBM3

显存位宽

5120bit

显存带宽

1681 GB/s

渲染规格

[纠错]

GPU大核数量

132

流处理器数量

16896

纹理单元

528

光栅单元

24

张量核心

528

一级缓存

256 KB (per SM)

二级缓存

50 MB

理论性能

[纠错]

像素填充率

44.09 GPixel/s

纹理填充率

969.9 GTexel/s

FP16性能

248.3 TFLOPS

FP32性能

62.08 TFLOPS

FP64性能

31.04 TFLOPS

图形处理器

[纠错]

GPU型号

GH100

架构

Hopper

芯片厂

TSMC

芯片工艺

4 nm

晶体管数量

800亿

芯片面积

814mm²

板卡设计

[纠错]

功耗

700W

建议电源功率

1100 W

输出接口

No outputs

电源接口

8-pin EPS

图形特性

[纠错]

DirectX

N/A

OpenGL

N/A

OpenCL

3.0

Vulkan

N/A

CUDA

9.0

Shader Model

N/A

排行榜

[纠错]

FP32浮点性能

NVIDIA RTX 5000 Ada Generation 32 GB GDDR6

65.28 TFLOPS

AMD Radeon RX 7950 XT 20 GB GDDR6

64.51 TFLOPS

NVIDIA H100 SXM5 96 GB 96 GB HBM3

62.08 TFLOPS

NVIDIA H100 PCIe 96 GB 96 GB HBM3

62.08 TFLOPS

NVIDIA B200 SXM 192 GB 96 GB HBM3e

62.08 TFLOPS

AMD Radeon RX 7900 XTX 24 GB GDDR6

61.39 TFLOPS

AMD Radeon PRO W7900 48 GB GDDR6

61.32 TFLOPS

相关对比

1

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 6000 Ada

2

NVIDIA RTX 6000 Ada Generation vs NVIDIA H100 PCIe 96 GB

3

NVIDIA L40S vs NVIDIA H100 PCIe 96 GB

4

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 PCIe 96 GB

5

NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 4090

6

NVIDIA GeForce RTX 4090 vs NVIDIA H100 PCIe 96 GB

7

NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 4090 Ti

8

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 80 GB

9

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 64 GB

10

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 96 GB