NVIDIA L4 vs AMD Instinct MI300A

VS

NVIDIA L4 AMD Instinct MI300A

주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 전문 시장 GPU를 비교했습니다. 24GB VRAM L4과 128GB VRAM AMD Instinct MI300A

주요 차이점

NVIDIA L4의 장점

낮은 TDP (72W 대 760W)

AMD Instinct MI300A의 장점

출시일로부터 9개월 지연

부스트 클럭의 성능이 3% 증가했습니다. (2100MHz 대 2040MHz)

더 많은 VRAM (128GB 대 24GB)

더 큰 VRAM 대역폭 (5300GB/s 대 300.1GB/s)

7168개의 추가 렌더링 코어

점수

벤치마크

FP32 (float)

L4

30.29 TFLOPS

AMD Instinct MI300A +304%

122.6 TFLOPS

L4

VS

AMD Instinct MI300A

그래픽 카드

2023년 3월

출시일

2023년 12월

Tesla Ada

세대

Instinct

전문

유형

전문

PCIe 4.0 x16

버스 인터페이스

PCIe 5.0 x16

클럭 속도

795MHz

기본 클럭

1000MHz

2040MHz

부스트 클럭

2100MHz

1563MHz

메모리 클럭

5200MHz

메모리

24GB

메모리 크기

128GB

GDDR6

메모리 타입

HBM3

192bit

메모리 버스

8192bit

300.1GB/s

대역폭

5300GB/s

렌더링 설정

60

스트림 프로세서 개수

-

컴퓨트 유닛

228

7424

새딩 유닛

14592

240

텍스처 매핑 유닛

880

80

렌더 출력 파이프라인

0

240

텐서 코어

-

60

레이 트레이싱 코어

-

128 KB (per SM)

L1 캐시

16 KB (per CU)

48MB

L2 캐시

16MB

이론적 성능

163.2GPixel/s

픽셀 속도

0MPixel/s

489.6GTexel/s

텍스처 속도

1496GTexel/s

30.29 TFLOPS

FP16 (반 정밀도)

980.6 TFLOPS

30.29 TFLOPS

FP32 (단 정밀도)

122.6 TFLOPS

473.3 GFLOPS

FP64 (배 정밀도)

61.3 TFLOPS

그래픽 프로세서

AD104

GPU 이름

MI300

AD104-???-A1

GPU 변형

-

Ada Lovelace

아키텍처

CDNA 3.0

TSMC

파운드리

TSMC

5 nm

제조 공정 크기

5 nm

35,800 million

트랜지스터

146,000 million

294 mm²

다이 크기

1,017 mm²

보드 디자인

72W

TDP

760W

250W

권장 전원 공급 장치

1000W

No outputs

출력 포트

No outputs

1x 16-pin

전원 연결자

None

그래픽 기능

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.7

쉐이더 모델

N/A

NVIDIA L4 vs AMD Instinct MI300A

주요 차이점

점수

벤치마크

그래픽 카드

클럭 속도

메모리

렌더링 설정

이론적 성능

그래픽 프로세서

보드 디자인

그래픽 기능

관련 GPU 비교