NVIDIA Jetson AGX Orin 64 GB vs NVIDIA H100 PCIe

VS

NVIDIA Jetson AGX Orin 64 GB NVIDIA H100 PCIe

AI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 전문 시장 GPU와 GPU를 비교했습니다. 64GB VRAM Jetson AGX Orin 64 GB과 80GB VRAM H100 PCIe 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.

주요 차이점

NVIDIA Jetson AGX Orin 64 GB 의 장점

출시 1년늦었습니다

낮은 TDP (60W 대 350W)

NVIDIA H100 PCIe 의 장점

부스트 클럭1755MHz

더 많은 VRAM (80GB 대 64GB)

더 큰 VRAM 대역폭 (2039GB/s 대 204.8GB/s)

12544 개의 추가 렌더링 코어

점수

벤치마크

FP32 (float)

Jetson AGX Orin 64 GB

5.325 TFLOPS

H100 PCIe +861%

51.22 TFLOPS

Jetson AGX Orin 64 GB

VS

H100 PCIe

그래픽 카드

2023년3월

출시일

2022년3월

Tegra

세대

Tesla Hopper

전문

유형

AI GPU

PCIe 4.0 x4

버스 인터페이스

PCIe 5.0 x16

클럭 속도

-

기본 클럭

1095 MHz

-

부스트 클럭

1755 MHz

1600 MHz

메모리 클럭

1593 MHz

메모리

64GB

메모리 크기

80GB

LPDDR5

메모리 타입

HBM2e

256bit

메모리 버스

5120bit

204.8GB/s

대역폭

2039GB/s

렌더링 설정

16

스트림 프로세서 개수

114

-

컴퓨트 유닛

-

2048

새딩 유닛

14592

64

텍스처 매핑 유닛

456

32

렌더 출력 파이프라인

24

64

텐서 코어

456

-

레이 트레이싱 코어

-

128 KB (per SM)

L1 캐시

256 KB (per SM)

256 KB

L2 캐시

50 MB

이론적 성능

41.60 GPixel/s

픽셀 속도

42.12 GPixel/s

83.20 GTexel/s

텍스처 속도

800.3 GTexel/s

10.65 TFLOPS

FP16 (반 정밀도)

204.9 TFLOPS

5.325 TFLOPS

FP32 (단 정밀도)

51.22 TFLOPS

2.662 TFLOPS

FP64 (배 정밀도)

25.61 TFLOPS

그래픽 프로세서

GA10B

GPU 이름

GH100

-

GPU 변형

-

Ampere

아키텍처

Hopper

Samsung

파운드리

TSMC

8 nm

제조 공정 크기

4 nm

알 수 없음

트랜지스터

800 억

알 수 없음

다이 크기

814 mm²

보드 디자인

60W

TDP

350W

-

권장 전원 공급 장치

750 W

Portable Device Dependent

출력 포트

No outputs

-

전원 연결자

1x 16-pin

그래픽 기능

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.6

CUDA

9.0

6.7

쉐이더 모델

N/A

관련 GPU 비교

1

NVIDIA GeForce RTX 4090 vs NVIDIA Jetson AGX Orin 64 GB

2

NVIDIA Jetson AGX Orin 64 GB vs NVIDIA Jetson Orin NX 16 GB

3

NVIDIA Jetson Orin Nano 8 GB vs NVIDIA Jetson AGX Orin 64 GB

4

NVIDIA GeForce RTX 4060 Mobile vs NVIDIA Jetson AGX Orin 64 GB

5

NVIDIA Jetson AGX Orin 64 GB vs NVIDIA Jetson Orin NX 8 GB

6

NVIDIA Jetson AGX Orin 64 GB vs NVIDIA Tesla T4

7

NVIDIA GeForce GTX 1060 Max Q vs NVIDIA Jetson AGX Orin 64 GB

8

NVIDIA Jetson AGX Orin 64 GB vs NVIDIA GRID M60 2Q

9

NVIDIA Jetson AGX Orin 64 GB vs Intel Data Center GPU Max 1100

10

NVIDIA Jetson AGX Orin 64 GB vs NVIDIA RTX A4000