NVIDIA H100 SXM5 80 GB vs NVIDIA GRID K240Q

VS

NVIDIA H100 SXM5 80 GB NVIDIA GRID K240Q

AI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 GPU와 전문 시장 GPU를 비교했습니다. 80GB VRAM H100 SXM5 80 GB과 1024MB VRAM GRID K240Q 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.

주요 차이점

NVIDIA H100 SXM5 80 GB 의 장점

출시 9년 그리고 9개월 늦었습니다

부스트 클럭1980MHz

더 많은 VRAM (80GB 대 1GB)

더 큰 VRAM 대역폭 (1681GB/s 대 160.0GB/s)

15360 개의 추가 렌더링 코어

NVIDIA GRID K240Q 의 장점

낮은 TDP (225W 대 700W)

점수

벤치마크

FP32 (float)

H100 SXM5 80 GB +2823%

66.91 TFLOPS

GRID K240Q

2.289 TFLOPS

H100 SXM5 80 GB

VS

GRID K240Q

그래픽 카드

2023년3월

출시일

2013년6월

Tesla Hopper

세대

GRID

AI GPU

유형

전문

PCIe 5.0 x16

버스 인터페이스

PCIe 3.0 x16

클럭 속도

1590 MHz

기본 클럭

-

1980 MHz

부스트 클럭

-

1313 MHz

메모리 클럭

1250 MHz

메모리

80GB

메모리 크기

1024MB

HBM3

메모리 타입

GDDR5

5120bit

메모리 버스

256bit

1681GB/s

대역폭

160.0GB/s

렌더링 설정

132

스트림 프로세서 개수

-

컴퓨트 유닛

-

16896

새딩 유닛

1536

528

텍스처 매핑 유닛

128

24

렌더 출력 파이프라인

32

528

텐서 코어

-

레이 트레이싱 코어

-

256 KB (per SM)

L1 캐시

16 KB (per SMX)

50 MB

L2 캐시

512 KB

이론적 성능

47.52 GPixel/s

픽셀 속도

23.84 GPixel/s

1045 GTexel/s

텍스처 속도

95.36 GTexel/s

267.6 TFLOPS

FP16 (반 정밀도)

-

66.91 TFLOPS

FP32 (단 정밀도)

2.289 TFLOPS

33.45 TFLOPS

FP64 (배 정밀도)

95.36 GFLOPS

그래픽 프로세서

GH100

GPU 이름

GK104

-

GPU 변형

-

Hopper

아키텍처

Kepler

TSMC

파운드리

TSMC

4 nm

제조 공정 크기

28 nm

800 억

트랜지스터

35.4 억

814 mm²

다이 크기

294 mm²

보드 디자인

700W

TDP

225W

1100 W

권장 전원 공급 장치

550 W

No outputs

출력 포트

No outputs

8-pin EPS

전원 연결자

-

그래픽 기능

N/A

DirectX

12 (11_0)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.1

9.0

CUDA

3.0

N/A

쉐이더 모델

5.1