H200 SXM vs AMD Instinct MI300X

VS

H200 SXM AMD Instinct MI300X

주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 GPU와 전문 시장 GPU를 비교했습니다. 141GB VRAM H200 SXM과 192GB VRAM AMD Instinct MI300X 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.

주요 차이점

H200 SXM의 장점

낮은 TDP (700W 대 750W)

AMD Instinct MI300X의 장점

부스트 클럭의 성능이 6% 증가했습니다. (2100MHz 대 1980MHz)

더 많은 VRAM (192GB 대 141GB)

더 큰 VRAM 대역폭 (5300GB/s 대 4800GB/s)

2560개의 추가 렌더링 코어

점수

벤치마크

FP32 (float)

H200 SXM

67 TFLOPS

AMD Instinct MI300X +143%

163.4 TFLOPS

H200 SXM

VS

AMD Instinct MI300X

그래픽 카드

2023년 11월

출시일

2023년 12월

Hopper

세대

Instinct

AI GPU

유형

전문

PCIe 5.0 x16

버스 인터페이스

PCIe 5.0 x16

클럭 속도

1590MHz

기본 클럭

1000MHz

1980MHz

부스트 클럭

2100MHz

1313MHz

메모리 클럭

5200MHz

메모리

141GB

메모리 크기

192GB

HBM3e

메모리 타입

HBM3

5120bit

메모리 버스

8192bit

4800GB/s

대역폭

5300GB/s

렌더링 설정

132

스트림 프로세서 개수

-

컴퓨트 유닛

304

16896

새딩 유닛

19456

528

텍스처 매핑 유닛

880

24

렌더 출력 파이프라인

0

528

텐서 코어

-

레이 트레이싱 코어

-

256 KB (per SM)

L1 캐시

16 KB (per CU)

50MB

L2 캐시

16MB

이론적 성능

47.52GPixel/s

픽셀 속도

0MPixel/s

1045GTexel/s

텍스처 속도

1496GTexel/s

1979 TFLOPS

FP16 (반 정밀도)

1300 TFLOPS

67 TFLOPS

FP32 (단 정밀도)

163.4 TFLOPS

34 TFLOPS

FP64 (배 정밀도)

81.7 TFLOPS

그래픽 프로세서

GH200

GPU 이름

MI300

-

GPU 변형

-

Hopper

아키텍처

CDNA 3.0

TSMC

파운드리

TSMC

4 nm

제조 공정 크기

5 nm

80,000 million

트랜지스터

146,000 million

814 mm²

다이 크기

1,017 mm²

보드 디자인

700W

TDP

750W

1100W

권장 전원 공급 장치

1000W

No outputs

출력 포트

No outputs

8-pin EPS

전원 연결자

None

그래픽 기능

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

-

N/A

쉐이더 모델

N/A