NVIDIA GRID RTX T10 16 vs NVIDIA H100 CNX

VS

AI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 전문 시장 GPU와 GPU를 비교했습니다. 16GB VRAM GRID RTX T10 16과 80GB VRAM H100 CNX 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.

주요 차이점

NVIDIA GRID RTX T10 16 의 장점

낮은 TDP (260W 대 350W)

NVIDIA H100 CNX 의 장점

부스트 클럭 의 성능이 32% 증가했습니다. (1845MHz 대 1395MHz)

더 많은 VRAM (80GB 대 16GB)

더 큰 VRAM 대역폭 (2039GB/s 대 604.8GB/s)

9984 개의 추가 렌더링 코어

점수

벤치마크

FP32 (float)

GRID RTX T10 16

12.86 TFLOPS

H100 CNX +318%

53.84 TFLOPS

GRID RTX T10 16

VS

H100 CNX

그래픽 카드

알 수 없음

출시일

2023년3월

GRID

세대

Tesla Hopper

전문

유형

AI GPU

PCIe 3.0 x16

버스 인터페이스

PCIe 5.0 x16

클럭 속도

1065 MHz

기본 클럭

690 MHz

1395 MHz

부스트 클럭

1845 MHz

1575 MHz

메모리 클럭

1593 MHz

메모리

16GB

메모리 크기

80GB

GDDR6

메모리 타입

HBM2e

384bit

메모리 버스

5120bit

604.8GB/s

대역폭

2039GB/s

렌더링 설정

72

스트림 프로세서 개수

114

-

컴퓨트 유닛

-

4608

새딩 유닛

14592

288

텍스처 매핑 유닛

456

96

렌더 출력 파이프라인

24

576

텐서 코어

456

72

레이 트레이싱 코어

-

64 KB (per SM)

L1 캐시

256 KB (per SM)

6 MB

L2 캐시

50 MB

이론적 성능

133.9 GPixel/s

픽셀 속도

44.28 GPixel/s

401.8 GTexel/s

텍스처 속도

841.3 GTexel/s

25.71 TFLOPS

FP16 (반 정밀도)

215.4 TFLOPS

12.86 TFLOPS

FP32 (단 정밀도)

53.84 TFLOPS

401.8 GFLOPS

FP64 (배 정밀도)

26.92 TFLOPS

그래픽 프로세서

TU102

GPU 이름

GH100

TU102-875-A1

GPU 변형

-

Turing

아키텍처

Hopper

TSMC

파운드리

TSMC

12 nm

제조 공정 크기

4 nm

186 억

트랜지스터

800 억

754 mm²

다이 크기

814 mm²

보드 디자인

260W

TDP

350W

600 W

권장 전원 공급 장치

750 W

No outputs

출력 포트

No outputs

1x 6-pin + 1x 8-pin

전원 연결자

8-pin EPS

그래픽 기능

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

7.5

CUDA

9.0

6.6

쉐이더 모델

N/A