H200 SXM vs NVIDIA GeForce RTX 4090 Ti

VS

AI GPU Chúng tôi so sánh một GPU : 141GB VRAM H200 SXM và một GPU Nền tảng máy tính để bàn: 24GB VRAM GeForce RTX 4090 Ti để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

H200 SXM Ưu điểm của

VRAM nhiều hơn (141GB vs 24GB)

Băng thông VRAM lớn hơn (4800GB/s vs 1152GB/s)

NVIDIA GeForce RTX 4090 Ti Ưu điểm của

Tốc độ tăng cường đã tăng 30% (2565MHz vs 1980MHz)

1280 lõi xử lý bổ sung

Công suất TDP thấp hơn (600W vs 700W)

Điểm số

Đánh giá

FP32 (số thực)

H200 SXM

67 TFLOPS

GeForce RTX 4090 Ti +39%

93.24 TFLOPS

H200 SXM

VS

GeForce RTX 4090 Ti

Card đồ họa

Thg 11 2023

Ngày phát hành

Không xác định

Hopper

Thế hệ

GeForce 40

GPU trí tuệ nhân tạo

Loại

Máy tính để bàn

PCIe 5.0 x16

Giao diện bus

PCIe 4.0 x16

Tốc độ đồng hồ

1590 MHz

Tốc độ cơ bản

2325 MHz

1980 MHz

Tốc độ tăng cường

2565 MHz

1313 MHz

Tốc độ bộ nhớ

1500 MHz

Bộ nhớ

141GB

Dung lượng bộ nhớ

24GB

HBM3e

Loại bộ nhớ

GDDR6X

5120bit

Bus bộ nhớ

384bit

4800GB/s

Băng thông

1152GB/s

Cấu hình hiển thị

132

Số SM

142

-

Đơn vị tính toán

-

16896

Đơn vị shading

18176

528

TMUs

568

24

ROPs

192

528

Tensor Cores

568

-

RT Cores

142

256 KB (per SM)

Bộ nhớ cache L1

128 KB (per SM)

50 MB

Bộ nhớ cache L2

96 MB

Hiệu suất lý thuyết

47.52 GPixel/s

Tốc độ pixel

492.5 GPixel/s

1045 GTexel/s

Tốc độ texture

1457 GTexel/s

1979 TFLOPS

FP16 (nửa)

93.24 TFLOPS

67 TFLOPS

FP32 (float)

93.24 TFLOPS

34 TFLOPS

FP64 (double)

1457 GFLOPS

Bộ xử lý đồ họa

GH200

Tên GPU

AD102

-

Phiên bản GPU

AD102-400-A1

Hopper

Kiến trúc

Ada Lovelace

TSMC

Hãng sản xuất

TSMC

4 nm

Kích thước quy trình

5 nm

800 tỷ

Transistors

763 tỷ

814 mm²

Kích thước die

609 mm²

Thiết kế bo mạch chủ

700W

Công suất tiêu thụ

600W

1100 W

Nguồn điện đề xuất

1000 W

No outputs

Cổng kết nối

1x HDMI 2.1 3x DisplayPort 1.4a

8-pin EPS

Đầu nối nguồn

2x 16-pin

Tính năng đồ họa

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Mô hình shader

6.7

So sánh GPU liên quan

1

H200 SXM vs AMD Instinct MI300X

2

H200 SXM vs NVIDIA H100 PCIe 80 GB

3

AMD Radeon Instinct MI300 vs H200 SXM

4

NVIDIA A100 PCIe vs H200 SXM

5

NVIDIA H100 PCIe vs H200 SXM

6

H200 SXM vs NVIDIA L40S

7

NVIDIA GeForce RTX 4090 Ti vs NVIDIA RTX 5000 Ada Generation

8

H200 SXM vs NVIDIA A100 SXM4 80 GB

9

H200 SXM vs NVIDIA H800 SXM5

10

H200 SXM vs NVIDIA A800 PCIe 40 GB