NVIDIA A16 PCIe vs NVIDIA H100 SXM5 96 GB

VS

AI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 데스크톱 플랫폼 GPU와 GPU를 비교했습니다. 16GB VRAM A16 PCIe과 96GB VRAM H100 SXM5 96 GB 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.

주요 차이점

NVIDIA A16 PCIe 의 장점

낮은 TDP (250W 대 700W)

NVIDIA H100 SXM5 96 GB 의 장점

출시 1년 그리고 11개월 늦었습니다

부스트 클럭 의 성능이 8% 증가했습니다. (1837MHz 대 1695MHz)

더 많은 VRAM (96GB 대 16GB)

더 큰 VRAM 대역폭 (1681GB/s 대 231.9GB/s)

15616 개의 추가 렌더링 코어

점수

벤치마크

FP32 (float)

A16 PCIe

4.339 TFLOPS

H100 SXM5 96 GB +1330%

62.08 TFLOPS

A16 PCIe

VS

H100 SXM5 96 GB

그래픽 카드

2021년4월

출시일

2023년3월

Tesla

세대

Tesla Hopper

데스크톱

유형

AI GPU

PCIe 4.0 x8

버스 인터페이스

PCIe 5.0 x16

클럭 속도

885 MHz

기본 클럭

1665 MHz

1695 MHz

부스트 클럭

1837 MHz

1812 MHz

메모리 클럭

1313 MHz

메모리

16GB

메모리 크기

96GB

GDDR6

메모리 타입

HBM3

128bit

메모리 버스

5120bit

231.9GB/s

대역폭

1681GB/s

렌더링 설정

10

스트림 프로세서 개수

132

-

컴퓨트 유닛

-

1280

새딩 유닛

16896

40

텍스처 매핑 유닛

528

32

렌더 출력 파이프라인

24

40

텐서 코어

528

10

레이 트레이싱 코어

-

128 KB (per SM)

L1 캐시

256 KB (per SM)

2 MB

L2 캐시

50 MB

이론적 성능

54.24 GPixel/s

픽셀 속도

44.09 GPixel/s

67.80 GTexel/s

텍스처 속도

969.9 GTexel/s

4.339 TFLOPS

FP16 (반 정밀도)

248.3 TFLOPS

4.339 TFLOPS

FP32 (단 정밀도)

62.08 TFLOPS

135.6 GFLOPS

FP64 (배 정밀도)

31.04 TFLOPS

그래픽 프로세서

GA107

GPU 이름

GH100

-

GPU 변형

-

Ampere

아키텍처

Hopper

Samsung

파운드리

TSMC

8 nm

제조 공정 크기

4 nm

알 수 없음

트랜지스터

800 억

알 수 없음

다이 크기

814 mm²

보드 디자인

250W

TDP

700W

600 W

권장 전원 공급 장치

1100 W

No outputs

출력 포트

No outputs

8-pin EPS

전원 연결자

8-pin EPS

그래픽 기능

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.6

CUDA

9.0

6.6

쉐이더 모델

N/A

NVIDIA A16 PCIe vs NVIDIA H100 SXM5 96 GB

주요 차이점

점수

벤치마크

그래픽 카드

클럭 속도

메모리

렌더링 설정

이론적 성능

그래픽 프로세서

보드 디자인

그래픽 기능

관련 GPU 비교