NVIDIA H100 PCIe vs AMD Radeon Instinct MI300

VS

NVIDIA H100 PCIe AMD Radeon Instinct MI300

AI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 GPU와 전문 시장 GPU를 비교했습니다. 80GB VRAM H100 PCIe과 128GB VRAM Radeon Instinct MI300 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.

주요 차이점

NVIDIA H100 PCIe 의 장점

부스트 클럭 의 성능이 3% 증가했습니다. (1755MHz 대 1700MHz)

512 개의 추가 렌더링 코어

낮은 TDP (350W 대 600W)

AMD Radeon Instinct MI300 의 장점

출시 10개월 늦었습니다

더 많은 VRAM (128GB 대 80GB)

더 큰 VRAM 대역폭 (3277GB/s 대 2039GB/s)

점수

벤치마크

FP32 (float)

H100 PCIe +6%

51.22 TFLOPS

Radeon Instinct MI300

47.87 TFLOPS

H100 PCIe

VS

Radeon Instinct MI300

그래픽 카드

2022년3월

출시일

2023년1월

Tesla Hopper

세대

Radeon Instinct

AI GPU

유형

전문

PCIe 5.0 x16

버스 인터페이스

PCIe 5.0 x16

클럭 속도

1095 MHz

기본 클럭

1000 MHz

1755 MHz

부스트 클럭

1700 MHz

1593 MHz

메모리 클럭

1600 MHz

메모리

80GB

메모리 크기

128GB

HBM2e

메모리 타입

HBM3

5120bit

메모리 버스

8192bit

2039GB/s

대역폭

3277GB/s

렌더링 설정

114

스트림 프로세서 개수

-

컴퓨트 유닛

220

14592

새딩 유닛

14080

456

텍스처 매핑 유닛

880

24

렌더 출력 파이프라인

0

456

텐서 코어

880

-

레이 트레이싱 코어

-

256 KB (per SM)

L1 캐시

16 KB (per CU)

50 MB

L2 캐시

16 MB

이론적 성능

42.12 GPixel/s

픽셀 속도

0 MPixel/s

800.3 GTexel/s

텍스처 속도

1496 GTexel/s

204.9 TFLOPS

FP16 (반 정밀도)

383.0 TFLOPS

51.22 TFLOPS

FP32 (단 정밀도)

47.87 TFLOPS

25.61 TFLOPS

FP64 (배 정밀도)

47.87 TFLOPS

그래픽 프로세서

GH100

GPU 이름

Aqua Vanjaram

-

GPU 변형

-

Hopper

아키텍처

CDNA 3.0

TSMC

파운드리

TSMC

4 nm

제조 공정 크기

5 nm

800 억

트랜지스터

1530 억

814 mm²

다이 크기

1017 mm²

보드 디자인

350W

TDP

600W

750 W

권장 전원 공급 장치

1000 W

No outputs

출력 포트

No outputs

1x 16-pin

전원 연결자

2x 8-pin

그래픽 기능

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

-

N/A

쉐이더 모델

N/A

NVIDIA H100 PCIe vs AMD Radeon Instinct MI300

주요 차이점

점수

벤치마크

그래픽 카드

클럭 속도

메모리

렌더링 설정

이론적 성능

그래픽 프로세서

보드 디자인

그래픽 기능

관련 GPU 비교