NVIDIA A16 PCIe vs NVIDIA H100 SXM5 96 GB

VS

AI GPU Chúng tôi so sánh một GPU Nền tảng máy tính để bàn: 16GB VRAM A16 PCIe và một GPU : 96GB VRAM H100 SXM5 96 GB để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

NVIDIA A16 PCIe Ưu điểm của

Công suất TDP thấp hơn (250W vs 700W)

NVIDIA H100 SXM5 96 GB Ưu điểm của

Phát hành trễ 1nămvà 11tháng

Tốc độ tăng cường đã tăng 8% (1837MHz vs 1695MHz)

VRAM nhiều hơn (96GB vs 16GB)

Băng thông VRAM lớn hơn (1681GB/s vs 231.9GB/s)

15616 lõi xử lý bổ sung

Điểm số

Đánh giá

FP32 (số thực)

A16 PCIe

4.339 TFLOPS

H100 SXM5 96 GB +1330%

62.08 TFLOPS

A16 PCIe

VS

H100 SXM5 96 GB

Card đồ họa

Thg 4 2021

Ngày phát hành

Thg 3 2023

Tesla

Thế hệ

Tesla Hopper

Máy tính để bàn

Loại

GPU trí tuệ nhân tạo

PCIe 4.0 x8

Giao diện bus

PCIe 5.0 x16

Tốc độ đồng hồ

885 MHz

Tốc độ cơ bản

1665 MHz

1695 MHz

Tốc độ tăng cường

1837 MHz

1812 MHz

Tốc độ bộ nhớ

1313 MHz

Bộ nhớ

16GB

Dung lượng bộ nhớ

96GB

GDDR6

Loại bộ nhớ

HBM3

128bit

Bus bộ nhớ

5120bit

231.9GB/s

Băng thông

1681GB/s

Cấu hình hiển thị

10

Số SM

132

-

Đơn vị tính toán

-

1280

Đơn vị shading

16896

40

TMUs

528

32

ROPs

24

40

Tensor Cores

528

10

RT Cores

-

128 KB (per SM)

Bộ nhớ cache L1

256 KB (per SM)

2 MB

Bộ nhớ cache L2

50 MB

Hiệu suất lý thuyết

54.24 GPixel/s

Tốc độ pixel

44.09 GPixel/s

67.80 GTexel/s

Tốc độ texture

969.9 GTexel/s

4.339 TFLOPS

FP16 (nửa)

248.3 TFLOPS

4.339 TFLOPS

FP32 (float)

62.08 TFLOPS

135.6 GFLOPS

FP64 (double)

31.04 TFLOPS

Bộ xử lý đồ họa

GA107

Tên GPU

GH100

-

Phiên bản GPU

-

Ampere

Kiến trúc

Hopper

Samsung

Hãng sản xuất

TSMC

8 nm

Kích thước quy trình

4 nm

Không xác định

Transistors

800 tỷ

Không xác định

Kích thước die

814 mm²

Thiết kế bo mạch chủ

250W

Công suất tiêu thụ

700W

600 W

Nguồn điện đề xuất

1100 W

No outputs

Cổng kết nối

No outputs

8-pin EPS

Đầu nối nguồn

8-pin EPS

Tính năng đồ họa

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.6

CUDA

9.0

6.6

Mô hình shader

N/A

So sánh GPU liên quan

1

NVIDIA L40S vs NVIDIA A16 PCIe

2

NVIDIA A16 PCIe vs NVIDIA A100 SXM4 80 GB

3

NVIDIA GeForce RTX 4090 vs NVIDIA A16 PCIe

4

NVIDIA A16 PCIe vs NVIDIA A40 PCIe

5

NVIDIA A10 PCIe vs NVIDIA A16 PCIe

6

NVIDIA A16 PCIe vs NVIDIA A30 PCIe

7

NVIDIA A16 PCIe vs NVIDIA RTX 6000 Ada

8

NVIDIA A16 PCIe vs NVIDIA GeForce GTX 1630

9

NVIDIA A16 PCIe vs ATI Radeon HD 4710

10

NVIDIA A16 PCIe vs NVIDIA GeForce 8400 GS PCI