NVIDIA Tesla T4 vs AMD Instinct MI300X

VS

NVIDIA Tesla T4 AMD Instinct MI300X

주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 전문 시장 GPU를 비교했습니다. 16GB VRAM Tesla T4과 192GB VRAM AMD Instinct MI300X

주요 차이점

NVIDIA Tesla T4 의 장점

낮은 TDP (70W 대 750W)

AMD Instinct MI300X 의 장점

출시 5년 그리고 3개월 늦었습니다

부스트 클럭 의 성능이 32% 증가했습니다. (2100MHz 대 1590MHz)

더 많은 VRAM (192GB 대 16GB)

더 큰 VRAM 대역폭 (5300GB/s 대 320.0GB/s)

16896 개의 추가 렌더링 코어

점수

벤치마크

FP32 (float)

Tesla T4

8.141 TFLOPS

AMD Instinct MI300X +1907%

163.4 TFLOPS

Tesla T4

VS

AMD Instinct MI300X

그래픽 카드

2018년9월

출시일

2023년12월

Tesla

세대

Instinct

전문

유형

전문

PCIe 3.0 x16

버스 인터페이스

PCIe 5.0 x16

클럭 속도

585 MHz

기본 클럭

1000 MHz

1590 MHz

부스트 클럭

2100 MHz

1250 MHz

메모리 클럭

5200 MHz

메모리

16GB

메모리 크기

192GB

GDDR6

메모리 타입

HBM3

256bit

메모리 버스

8192bit

320.0GB/s

대역폭

5300GB/s

렌더링 설정

40

스트림 프로세서 개수

-

컴퓨트 유닛

304

2560

새딩 유닛

19456

160

텍스처 매핑 유닛

880

64

렌더 출력 파이프라인

0

320

텐서 코어

-

40

레이 트레이싱 코어

-

64 KB (per SM)

L1 캐시

16 KB (per CU)

4 MB

L2 캐시

16 MB

이론적 성능

101.8 GPixel/s

픽셀 속도

0 MPixel/s

254.4 GTexel/s

텍스처 속도

1496 GTexel/s

65.13 TFLOPS

FP16 (반 정밀도)

1300 TFLOPS

8.141 TFLOPS

FP32 (단 정밀도)

163.4 TFLOPS

254.4 GFLOPS

FP64 (배 정밀도)

81.7 TFLOPS

그래픽 프로세서

TU104

GPU 이름

MI300

TU104-895-A1

GPU 변형

-

Turing

아키텍처

CDNA 3.0

TSMC

파운드리

TSMC

12 nm

제조 공정 크기

5 nm

136 억

트랜지스터

1460 억

545 mm²

다이 크기

1017 mm²

보드 디자인

70W

TDP

750W

250 W

권장 전원 공급 장치

1000 W

No outputs

출력 포트

No outputs

None

전원 연결자

None

그래픽 기능

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

7.5

CUDA

-

6.6

쉐이더 모델

N/A