NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 64 GB

VS

NVIDIA A100 SXM4 40 GB NVIDIA H100 SXM5 64 GB

AI GPUAI GPU Chúng tôi so sánh hai GPU : 40GB VRAM A100 SXM4 40 GB và 64GB VRAM H100 SXM5 64 GB để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

NVIDIA A100 SXM4 40 GB Ưu điểm của

Băng thông VRAM lớn hơn (1555GB/s vs 1008GB/s)

Công suất TDP thấp hơn (400W vs 700W)

NVIDIA H100 SXM5 64 GB Ưu điểm của

Phát hành trễ 2nămvà 10tháng

Tốc độ tăng cường đã tăng 40% (1980MHz vs 1410MHz)

VRAM nhiều hơn (64GB vs 40GB)

9984 lõi xử lý bổ sung

Điểm số

Đánh giá

FP32 (số thực)

A100 SXM4 40 GB

19.49 TFLOPS

H100 SXM5 64 GB +243%

66.91 TFLOPS

A100 SXM4 40 GB

VS

H100 SXM5 64 GB

Card đồ họa

Thg 5 2020

Ngày phát hành

Thg 3 2023

Tesla Ampere

Thế hệ

Tesla Hopper

GPU trí tuệ nhân tạo

Loại

GPU trí tuệ nhân tạo

PCIe 4.0 x16

Giao diện bus

PCIe 5.0 x16

Tốc độ đồng hồ

1095 MHz

Tốc độ cơ bản

1665 MHz

1410 MHz

Tốc độ tăng cường

1980 MHz

1215 MHz

Tốc độ bộ nhớ

1313 MHz

Bộ nhớ

40GB

Dung lượng bộ nhớ

64GB

HBM2e

Loại bộ nhớ

HBM3

5120bit

Bus bộ nhớ

3072bit

1555GB/s

Băng thông

1008GB/s

Cấu hình hiển thị

108

Số SM

132

-

Đơn vị tính toán

-

6912

Đơn vị shading

16896

432

TMUs

528

160

ROPs

24

432

Tensor Cores

528

-

RT Cores

-

192 KB (per SM)

Bộ nhớ cache L1

256 KB (per SM)

40 MB

Bộ nhớ cache L2

50 MB

Hiệu suất lý thuyết

225.6 GPixel/s

Tốc độ pixel

47.52 GPixel/s

609.1 GTexel/s

Tốc độ texture

1045 GTexel/s

77.97 TFLOPS

FP16 (nửa)

267.6 TFLOPS

19.49 TFLOPS

FP32 (float)

66.91 TFLOPS

9.746 TFLOPS

FP64 (double)

33.45 TFLOPS

Bộ xử lý đồ họa

GA100

Tên GPU

GH100

-

Phiên bản GPU

-

Ampere

Kiến trúc

Hopper

TSMC

Hãng sản xuất

TSMC

7 nm

Kích thước quy trình

4 nm

542 tỷ

Transistors

800 tỷ

826 mm²

Kích thước die

814 mm²

Thiết kế bo mạch chủ

400W

Công suất tiêu thụ

700W

800 W

Nguồn điện đề xuất

1100 W

No outputs

Cổng kết nối

No outputs

None

Đầu nối nguồn

8-pin EPS

Tính năng đồ họa

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

Mô hình shader

N/A

So sánh GPU liên quan

1

NVIDIA A100 PCIe vs NVIDIA A100 SXM4 40 GB

2

NVIDIA GeForce RTX 4090 vs NVIDIA A100 SXM4 40 GB

3

NVIDIA L40 vs NVIDIA A100 SXM4 40 GB

4

NVIDIA A100 SXM4 40 GB vs NVIDIA A100 PCIe 80 GB

5

NVIDIA RTX 6000 Ada vs NVIDIA A100 SXM4 40 GB

6

NVIDIA A100 SXM4 40 GB vs NVIDIA A100 SXM4 80 GB

7

NVIDIA Tesla V100 PCIe 16 GB vs NVIDIA A100 SXM4 40 GB

8

NVIDIA A100 SXM4 40 GB vs NVIDIA A800 PCIe 40 GB

9

NVIDIA A100 SXM4 40 GB vs NVIDIA H800 SXM5

10

NVIDIA A100 SXM4 40 GB vs H200 SXM