NVIDIA H100 SXM5 64 GB vs NVIDIA Tesla K40st

VS

NVIDIA H100 SXM5 64 GB NVIDIA Tesla K40st

AI GPU Chúng tôi so sánh một GPU : 64GB VRAM H100 SXM5 64 GB và một GPU Thị trường chuyên nghiệp: 12GB VRAM Tesla K40st để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

NVIDIA H100 SXM5 64 GB Ưu điểm của

Phát hành trễ 9nămvà 4tháng

Tốc độ tăng cường1980MHz

VRAM nhiều hơn (64GB vs 12GB)

Băng thông VRAM lớn hơn (1008GB/s vs 288.4GB/s)

14016 lõi xử lý bổ sung

NVIDIA Tesla K40st Ưu điểm của

Công suất TDP thấp hơn (245W vs 700W)

Điểm số

Đánh giá

FP32 (số thực)

H100 SXM5 64 GB +1920%

66.91 TFLOPS

Tesla K40st

3.312 TFLOPS

H100 SXM5 64 GB

VS

Tesla K40st

Card đồ họa

Thg 3 2023

Ngày phát hành

Thg 11 2013

Tesla Hopper

Thế hệ

Tesla

GPU trí tuệ nhân tạo

Loại

Chuyên nghiệp

PCIe 5.0 x16

Giao diện bus

PCIe 3.0 x16

Tốc độ đồng hồ

1665 MHz

Tốc độ cơ bản

-

1980 MHz

Tốc độ tăng cường

-

1313 MHz

Tốc độ bộ nhớ

1502 MHz

Bộ nhớ

64GB

Dung lượng bộ nhớ

12GB

HBM3

Loại bộ nhớ

GDDR5

3072bit

Bus bộ nhớ

384bit

1008GB/s

Băng thông

288.4GB/s

Cấu hình hiển thị

132

Số SM

-

Đơn vị tính toán

-

16896

Đơn vị shading

2880

528

TMUs

240

24

ROPs

48

528

Tensor Cores

-

RT Cores

-

256 KB (per SM)

Bộ nhớ cache L1

16 KB (per SMX)

50 MB

Bộ nhớ cache L2

1536 KB

Hiệu suất lý thuyết

47.52 GPixel/s

Tốc độ pixel

34.50 GPixel/s

1045 GTexel/s

Tốc độ texture

138.0 GTexel/s

267.6 TFLOPS

FP16 (nửa)

-

66.91 TFLOPS

FP32 (float)

3.312 TFLOPS

33.45 TFLOPS

FP64 (double)

1104 GFLOPS

Bộ xử lý đồ họa

GH100

Tên GPU

GK110B

-

Phiên bản GPU

-

Hopper

Kiến trúc

Kepler

TSMC

Hãng sản xuất

TSMC

4 nm

Kích thước quy trình

28 nm

800 tỷ

Transistors

70.8 tỷ

814 mm²

Kích thước die

561 mm²

Thiết kế bo mạch chủ

700W

Công suất tiêu thụ

245W

1100 W

Nguồn điện đề xuất

550 W

No outputs

Cổng kết nối

No outputs

8-pin EPS

Đầu nối nguồn

-

Tính năng đồ họa

N/A

DirectX

12 (11_1)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.1

9.0

CUDA

3.5

N/A

Mô hình shader

5.1

So sánh GPU liên quan

1

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 64 GB

2

NVIDIA H100 SXM5 64 GB vs NVIDIA H800 SXM5

3

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 64 GB

4

NVIDIA A10G vs NVIDIA H100 SXM5 64 GB

5

NVIDIA H800 PCIe 80 GB vs NVIDIA H100 SXM5 64 GB

6

NVIDIA GeForce RTX 4090 D vs NVIDIA H100 SXM5 64 GB

7

NVIDIA H100 SXM5 64 GB vs NVIDIA A100 SXM4 40 GB

8

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 SXM5 80 GB

9

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 PCIe 40 GB

10

NVIDIA H100 SXM5 64 GB vs NVIDIA H800 SXM5