AMD Instinct MI300X vs NVIDIA H100 SXM5 80 GB

VS

AMD Instinct MI300X NVIDIA H100 SXM5 80 GB

AI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 전문 시장 GPU와 GPU를 비교했습니다. 192GB VRAM AMD Instinct MI300X과 80GB VRAM H100 SXM5 80 GB 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.

주요 차이점

AMD Instinct MI300X 의 장점

출시 9개월 늦었습니다

부스트 클럭 의 성능이 6% 증가했습니다. (2100MHz 대 1980MHz)

더 많은 VRAM (192GB 대 80GB)

더 큰 VRAM 대역폭 (5300GB/s 대 1681GB/s)

2560 개의 추가 렌더링 코어

NVIDIA H100 SXM5 80 GB 의 장점

낮은 TDP (700W 대 750W)

점수

벤치마크

FP32 (float)

AMD Instinct MI300X +144%

163.4 TFLOPS

H100 SXM5 80 GB

66.91 TFLOPS

AMD Instinct MI300X

VS

H100 SXM5 80 GB

그래픽 카드

2023년12월

출시일

2023년3월

Instinct

세대

Tesla Hopper

전문

유형

AI GPU

PCIe 5.0 x16

버스 인터페이스

PCIe 5.0 x16

클럭 속도

1000 MHz

기본 클럭

1590 MHz

2100 MHz

부스트 클럭

1980 MHz

5200 MHz

메모리 클럭

1313 MHz

메모리

192GB

메모리 크기

80GB

HBM3

메모리 타입

HBM3

8192bit

메모리 버스

5120bit

5300GB/s

대역폭

1681GB/s

렌더링 설정

-

스트림 프로세서 개수

132

304

컴퓨트 유닛

-

19456

새딩 유닛

16896

880

텍스처 매핑 유닛

528

0

렌더 출력 파이프라인

24

-

텐서 코어

528

-

레이 트레이싱 코어

-

16 KB (per CU)

L1 캐시

256 KB (per SM)

16 MB

L2 캐시

50 MB

이론적 성능

0 MPixel/s

픽셀 속도

47.52 GPixel/s

1496 GTexel/s

텍스처 속도

1045 GTexel/s

1300 TFLOPS

FP16 (반 정밀도)

267.6 TFLOPS

163.4 TFLOPS

FP32 (단 정밀도)

66.91 TFLOPS

81.7 TFLOPS

FP64 (배 정밀도)

33.45 TFLOPS

그래픽 프로세서

MI300

GPU 이름

GH100

-

GPU 변형

-

CDNA 3.0

아키텍처

Hopper

TSMC

파운드리

TSMC

5 nm

제조 공정 크기

4 nm

1460 억

트랜지스터

800 억

1017 mm²

다이 크기

814 mm²

보드 디자인

750W

TDP

700W

1000 W

권장 전원 공급 장치

1100 W

No outputs

출력 포트

No outputs

None

전원 연결자

8-pin EPS

그래픽 기능

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

9.0

N/A

쉐이더 모델

N/A