NVIDIA A100 PCIe vs NVIDIA Jetson AGX Orin 64 GB

VS

NVIDIA A100 PCIe NVIDIA Jetson AGX Orin 64 GB

AI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 GPU와 전문 시장 GPU를 비교했습니다. 40GB VRAM A100 PCIe과 64GB VRAM Jetson AGX Orin 64 GB 중 어떤 GPU가 성능이 더 우수한지 알아보았습니다.

주요 차이점

NVIDIA A100 PCIe 의 장점

부스트 클럭1410MHz

더 큰 VRAM 대역폭 (1555GB/s 대 204.8GB/s)

4864 개의 추가 렌더링 코어

NVIDIA Jetson AGX Orin 64 GB 의 장점

출시 2년 그리고 9개월 늦었습니다

더 많은 VRAM (64GB 대 40GB)

낮은 TDP (60W 대 250W)

점수

벤치마크

FP32 (float)

A100 PCIe +266%

19.49 TFLOPS

Jetson AGX Orin 64 GB

5.325 TFLOPS

A100 PCIe

VS

Jetson AGX Orin 64 GB

그래픽 카드

2020년6월

출시일

2023년3월

Tesla

세대

Tegra

AI GPU

유형

전문

PCIe 4.0 x16

버스 인터페이스

PCIe 4.0 x4

클럭 속도

765 MHz

기본 클럭

-

1410 MHz

부스트 클럭

-

1215 MHz

메모리 클럭

1600 MHz

메모리

40GB

메모리 크기

64GB

HBM2e

메모리 타입

LPDDR5

5120bit

메모리 버스

256bit

1555GB/s

대역폭

204.8GB/s

렌더링 설정

108

스트림 프로세서 개수

16

-

컴퓨트 유닛

-

6912

새딩 유닛

2048

432

텍스처 매핑 유닛

64

160

렌더 출력 파이프라인

32

432

텐서 코어

64

-

레이 트레이싱 코어

-

192 KB (per SM)

L1 캐시

128 KB (per SM)

40 MB

L2 캐시

256 KB

이론적 성능

225.6 GPixel/s

픽셀 속도

41.60 GPixel/s

609.1 GTexel/s

텍스처 속도

83.20 GTexel/s

77.97 TFLOPS

FP16 (반 정밀도)

10.65 TFLOPS

19.49 TFLOPS

FP32 (단 정밀도)

5.325 TFLOPS

9.746 TFLOPS

FP64 (배 정밀도)

2.662 TFLOPS

그래픽 프로세서

GA100

GPU 이름

GA10B

-

GPU 변형

-

Ampere

아키텍처

Ampere

TSMC

파운드리

Samsung

7 nm

제조 공정 크기

8 nm

542 억

트랜지스터

알 수 없음

826 mm²

다이 크기

알 수 없음

보드 디자인

250W

TDP

60W

600 W

권장 전원 공급 장치

-

No outputs

출력 포트

Portable Device Dependent

8-pin EPS

전원 연결자

-

그래픽 기능

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

8.0

CUDA

8.6

N/A

쉐이더 모델

6.7