NVIDIA L40S vs NVIDIA H100 PCIe 80 GB

VS

AI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 전문 시장 GPU와 GPU를 비교했습니다. 48GB VRAM L40S과 80GB VRAM H100 PCIe 80 GB 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.

주요 차이점

NVIDIA L40S 의 장점

부스트 클럭 의 성능이 44% 증가했습니다. (2520MHz 대 1755MHz)

3584 개의 추가 렌더링 코어

낮은 TDP (300W 대 350W)

NVIDIA H100 PCIe 80 GB 의 장점

더 많은 VRAM (80GB 대 48GB)

더 큰 VRAM 대역폭 (2039GB/s 대 864.0GB/s)

점수

벤치마크

FP32 (float)

L40S +78%

91.61 TFLOPS

H100 PCIe 80 GB

51.22 TFLOPS

L40S

VS

H100 PCIe 80 GB

그래픽 카드

2022년10월

출시일

2023년3월

Tesla Ada

세대

Tesla Hopper

전문

유형

AI GPU

PCIe 4.0 x16

버스 인터페이스

PCIe 5.0 x16

클럭 속도

1110 MHz

기본 클럭

1095 MHz

2520 MHz

부스트 클럭

1755 MHz

2250 MHz

메모리 클럭

1593 MHz

메모리

48GB

메모리 크기

80GB

GDDR6

메모리 타입

HBM2e

384bit

메모리 버스

5120bit

864.0GB/s

대역폭

2039GB/s

렌더링 설정

142

스트림 프로세서 개수

114

-

컴퓨트 유닛

-

18176

새딩 유닛

14592

568

텍스처 매핑 유닛

456

192

렌더 출력 파이프라인

24

568

텐서 코어

456

142

레이 트레이싱 코어

-

128 KB (per SM)

L1 캐시

256 KB (per SM)

48 MB

L2 캐시

50 MB

이론적 성능

483.8 GPixel/s

픽셀 속도

42.12 GPixel/s

1431 GTexel/s

텍스처 속도

800.3 GTexel/s

91.61 TFLOPS

FP16 (반 정밀도)

204.9 TFLOPS

91.61 TFLOPS

FP32 (단 정밀도)

51.22 TFLOPS

1431 GFLOPS

FP64 (배 정밀도)

25.61 TFLOPS

그래픽 프로세서

AD102

GPU 이름

GH100

AD102-???-A1

GPU 변형

-

Ada Lovelace

아키텍처

Hopper

TSMC

파운드리

TSMC

5 nm

제조 공정 크기

4 nm

763 억

트랜지스터

800 억

609 mm²

다이 크기

814 mm²

보드 디자인

300W

TDP

350W

700 W

권장 전원 공급 장치

750 W

1x HDMI 2.1 3x DisplayPort 1.4a

출력 포트

No outputs

1x 16-pin

전원 연결자

1x 16-pin

그래픽 기능

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

9.0

6.7

쉐이더 모델

N/A

NVIDIA L40S vs NVIDIA H100 PCIe 80 GB

주요 차이점

점수

벤치마크

그래픽 카드

클럭 속도

메모리

렌더링 설정

이론적 성능

그래픽 프로세서

보드 디자인

그래픽 기능

관련 GPU 비교