H200 SXM vs NVIDIA GeForce RTX 4090 Ti

VS

Chúng tôi so sánh một GPU : 141GB VRAM H200 SXM và một GPU Nền tảng máy tính để bàn: 24GB VRAM GeForce RTX 4090 Ti để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

H200 SXMƯu điểm của

VRAM nhiều hơn (141GB so với 24GB)

Băng thông VRAM lớn hơn (4800GB/s so với 1152GB/s)

NVIDIA GeForce RTX 4090 TiƯu điểm của

Tốc độ tăng cường đã tăng 30% (2565MHz so với 1980MHz)

1280 lõi xử lý bổ sung

Công suất TDP thấp hơn (600W so với 700W)

Điểm số

Đánh giá

FP32 (số thực)

H200 SXM

67 TFLOPS

GeForce RTX 4090 Ti +39%

93.24 TFLOPS

H200 SXM

VS

GeForce RTX 4090 Ti

Card đồ họa

Thg 11 2023

Ngày phát hành

Không xác định

Hopper

Thế hệ

GeForce 40

AI GPU

Loại

Desktop

PCIe 5.0 x16

Giao diện bus

PCIe 4.0 x16

Tốc độ đồng hồ

1590MHz

Tốc độ cơ bản

2325MHz

1980MHz

Tốc độ tăng cường

2565MHz

1313MHz

Tốc độ bộ nhớ

1500MHz

Bộ nhớ

141GB

Dung lượng bộ nhớ

24GB

HBM3e

Loại bộ nhớ

GDDR6X

5120bit

Bus bộ nhớ

384bit

4800GB/s

Băng thông

1152GB/s

Cấu hình hiển thị

132

Số SM

142

-

Đơn vị tính toán

-

16896

Đơn vị shading

18176

528

TMUs

568

24

ROPs

192

528

Tensor Cores

568

-

RT Cores

142

256 KB (per SM)

Bộ nhớ cache L1

128 KB (per SM)

50MB

Bộ nhớ cache L2

96MB

Hiệu suất lý thuyết

47.52GPixel/s

Tốc độ pixel

492.5GPixel/s

1045GTexel/s

Tốc độ texture

1457GTexel/s

1979 TFLOPS

FP16 (nửa)

93.24 TFLOPS

67 TFLOPS

FP32 (float)

93.24 TFLOPS

34 TFLOPS

FP64 (double)

1457 GFLOPS

Bộ xử lý đồ họa

GH200

Tên GPU

AD102

-

Phiên bản GPU

AD102-400-A1

Hopper

Kiến trúc

Ada Lovelace

TSMC

Hãng sản xuất

TSMC

4 nm

Kích thước quy trình

5 nm

80,000 million

Transistors

76,300 million

814mm²

Kích thước die

609mm²

Thiết kế bo mạch chủ

700W

Công suất tiêu thụ

600W

1100W

Nguồn điện đề xuất

1000W

No outputs

Cổng kết nối

1x HDMI 2.1 3x DisplayPort 1.4a

8-pin EPS

Đầu nối nguồn

2x 16-pin

Tính năng đồ họa

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Mô hình shader

6.7

So sánh GPU liên quan

1

H200 SXM vs AMD Instinct MI300X

2

AMD Radeon Instinct MI300 vs H200 SXM

3

H200 SXM vs NVIDIA H100 PCIe 80 GB

4

H200 SXM vs NVIDIA H100 SXM5

5

NVIDIA RTX A6000 vs H200 SXM

6

NVIDIA H100 PCIe vs H200 SXM

7

NVIDIA GeForce RTX 4090 Ti vs NVIDIA L40S

8

H200 SXM vs NVIDIA A800 SXM4 80 GB

9

H200 SXM vs NVIDIA H100 PCIe

10

H200 SXM vs NVIDIA H800 PCIe 80 GB