NVIDIA H100 SXM5 80 GB vs NVIDIA GRID K240Q

VS

NVIDIA H100 SXM5 80 GB NVIDIA GRID K240Q

AI GPU Chúng tôi so sánh một GPU : 80GB VRAM H100 SXM5 80 GB và một GPU Thị trường chuyên nghiệp: 1024MB VRAM GRID K240Q để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

NVIDIA H100 SXM5 80 GB Ưu điểm của

Phát hành trễ 9nămvà 9tháng

Tốc độ tăng cường1980MHz

VRAM nhiều hơn (80GB vs 1GB)

Băng thông VRAM lớn hơn (1681GB/s vs 160.0GB/s)

15360 lõi xử lý bổ sung

NVIDIA GRID K240Q Ưu điểm của

Công suất TDP thấp hơn (225W vs 700W)

Điểm số

Đánh giá

FP32 (số thực)

H100 SXM5 80 GB +2823%

66.91 TFLOPS

GRID K240Q

2.289 TFLOPS

H100 SXM5 80 GB

VS

GRID K240Q

Card đồ họa

Thg 3 2023

Ngày phát hành

Thg 6 2013

Tesla Hopper

Thế hệ

GRID

GPU trí tuệ nhân tạo

Loại

Chuyên nghiệp

PCIe 5.0 x16

Giao diện bus

PCIe 3.0 x16

Tốc độ đồng hồ

1590 MHz

Tốc độ cơ bản

-

1980 MHz

Tốc độ tăng cường

-

1313 MHz

Tốc độ bộ nhớ

1250 MHz

Bộ nhớ

80GB

Dung lượng bộ nhớ

1024MB

HBM3

Loại bộ nhớ

GDDR5

5120bit

Bus bộ nhớ

256bit

1681GB/s

Băng thông

160.0GB/s

Cấu hình hiển thị

132

Số SM

-

Đơn vị tính toán

-

16896

Đơn vị shading

1536

528

TMUs

128

24

ROPs

32

528

Tensor Cores

-

RT Cores

-

256 KB (per SM)

Bộ nhớ cache L1

16 KB (per SMX)

50 MB

Bộ nhớ cache L2

512 KB

Hiệu suất lý thuyết

47.52 GPixel/s

Tốc độ pixel

23.84 GPixel/s

1045 GTexel/s

Tốc độ texture

95.36 GTexel/s

267.6 TFLOPS

FP16 (nửa)

-

66.91 TFLOPS

FP32 (float)

2.289 TFLOPS

33.45 TFLOPS

FP64 (double)

95.36 GFLOPS

Bộ xử lý đồ họa

GH100

Tên GPU

GK104

-

Phiên bản GPU

-

Hopper

Kiến trúc

Kepler

TSMC

Hãng sản xuất

TSMC

4 nm

Kích thước quy trình

28 nm

800 tỷ

Transistors

35.4 tỷ

814 mm²

Kích thước die

294 mm²

Thiết kế bo mạch chủ

700W

Công suất tiêu thụ

225W

1100 W

Nguồn điện đề xuất

550 W

No outputs

Cổng kết nối

No outputs

8-pin EPS

Đầu nối nguồn

-

Tính năng đồ họa

N/A

DirectX

12 (11_0)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.1

9.0

CUDA

3.0

N/A

Mô hình shader

5.1

So sánh GPU liên quan

1

NVIDIA H800 SXM5 vs NVIDIA H100 SXM5 80 GB

2

NVIDIA H100 SXM5 80 GB vs NVIDIA L40S

3

AMD Instinct MI300X vs NVIDIA H100 SXM5 80 GB

4

NVIDIA A40 PCIe vs NVIDIA H100 SXM5 80 GB

5

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 80 GB

6

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 80 GB

7

H200 SXM vs NVIDIA H100 SXM5 80 GB

8

NVIDIA H100 SXM5 80 GB vs NVIDIA H100 CNX

9

NVIDIA H100 SXM5 80 GB vs NVIDIA A800 PCIe 80 GB

10

NVIDIA H100 SXM5 80 GB vs NVIDIA A800 SXM4 80 GB