NVIDIA H100 PCIe vs NVIDIA Jetson Orin NX 8 GB
AI GPU
주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 GPU와 전문 시장 GPU를 비교했습니다. 80GB VRAM H100 PCIe과 8GB VRAM Jetson Orin NX 8 GB 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.
주요 차이점
NVIDIA H100 PCIe 의 장점
부스트 클럭1755MHz
더 많은 VRAM (80GB 대 8GB)
더 큰 VRAM 대역폭 (2039GB/s 대 102.4GB/s)
13568 개의 추가 렌더링 코어
NVIDIA Jetson Orin NX 8 GB 의 장점
출시 1년늦었습니다
낮은 TDP (20W 대 350W)
점수
벤치마크
FP32 (float)
H100 PCIe
+3168%
51.22 TFLOPS
Jetson Orin NX 8 GB
1.567 TFLOPS
그래픽 카드
2022년3월
출시일
2023년3월
Tesla Hopper
세대
Tegra
AI GPU
유형
전문
PCIe 5.0 x16
버스 인터페이스
PCIe 4.0 x4
클럭 속도
1095 MHz
기본 클럭
-
1755 MHz
부스트 클럭
-
1593 MHz
메모리 클럭
1600 MHz
메모리
80GB
메모리 크기
8GB
HBM2e
메모리 타입
LPDDR5
5120bit
메모리 버스
128bit
2039GB/s
대역폭
102.4GB/s
렌더링 설정
-
-
-
114
스트림 프로세서 개수
8
14592
새딩 유닛
1024
456
텍스처 매핑 유닛
32
24
렌더 출력 파이프라인
16
456
텐서 코어
32
-
-
-
256 KB (per SM)
L1 캐시
128 KB (per SM)
50 MB
L2 캐시
256 KB
-
-
-
이론적 성능
42.12 GPixel/s
픽셀 속도
12.24 GPixel/s
800.3 GTexel/s
텍스처 속도
24.48 GTexel/s
204.9 TFLOPS
FP16 (반 정밀도)
3.133 TFLOPS
51.22 TFLOPS
FP32 (단 정밀도)
1.567 TFLOPS
25.61 TFLOPS
FP64 (배 정밀도)
783.4 GFLOPS
보드 디자인
350W
TDP
20W
750 W
권장 전원 공급 장치
-
No outputs
출력 포트
Portable Device Dependent
1x 16-pin
전원 연결자
-
그래픽 프로세서
GH100
GPU 이름
GA10B
-
GPU 변형
TE980M-A1
Hopper
아키텍처
Ampere
TSMC
파운드리
Samsung
4 nm
제조 공정 크기
8 nm
800 억
트랜지스터
알 수 없음
814 mm²
다이 크기
알 수 없음
그래픽 기능
N/A
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
3.0
OpenCL
3.0
N/A
Vulkan
1.3
9.0
CUDA
8.6
N/A
쉐이더 모델
6.7
