NVIDIA H100 SXM5 96 GB

이 GPU는 TSMC의 4nm 제조 공정을 사용한 제품으로, Nvidia Hopper 아키텍처를 채택하고 있습니다. 2023년 3월 21일에 출시되었습니다. 800억 개의 트랜지스터, 16896개의 CUDA 코어와 96GB HBM3 메모리를 갖고 있습니다. 둘째 캐시로 50MB을 장착하고 있습니다.이론적인 연산 성능은 62.08TFLOPS입니다.총 전력 소비는 700W입니다.

그래픽 카드

[문제 신고]

출시일

2023년 3월

세대

Tesla Hopper

유형

전문

버스 인터페이스

PCIe 5.0 x16

클럭 속도

[문제 신고]

기본 클럭

1665MHz

부스트 클럭

1837MHz

메모리 클럭

1313MHz

메모리

[문제 신고]

메모리 크기

96GB

메모리 타입

HBM3

메모리 버스

5120bit

대역폭

1681GB/s

렌더링 설정

[문제 신고]

스트림 프로세서 개수

132

새딩 유닛

16896

텍스처 매핑 유닛

528

렌더 출력 파이프라인

24

텐서 코어

528

L1 캐시

256 KB (per SM)

L2 캐시

50MB

이론적 성능

[문제 신고]

픽셀 속도

44.09GPixel/s

텍스처 속도

969.9GTexel/s

FP16 (반 정밀도)

248.3 TFLOPS

FP32 (단 정밀도)

62.08 TFLOPS

FP64 (배 정밀도)

31.04 TFLOPS

그래픽 프로세서

[문제 신고]

GPU 이름

GH100

아키텍처

Hopper

파운드리

TSMC

제조 공정 크기

4 nm

트랜지스터

80,000 million

다이 크기

814 mm²

보드 디자인

[문제 신고]

TDP

700W

권장 전원 공급 장치

1100W

출력 포트

No outputs

전원 연결자

8-pin EPS

그래픽 기능

[문제 신고]

DirectX

N/A

OpenGL

N/A

OpenCL

3.0

Vulkan

N/A

CUDA

9.0

쉐이더 모델

N/A

순위

[문제 신고]

FP32 (float)

NVIDIA RTX 5000 Ada Generation 32 GB GDDR6

65.28 TFLOPS

AMD Radeon RX 7950 XT 20 GB GDDR6

64.51 TFLOPS

NVIDIA H100 SXM5 96 GB 96 GB HBM3

62.08 TFLOPS

NVIDIA H100 PCIe 96 GB 96 GB HBM3

62.08 TFLOPS

AMD Radeon RX 7900 XTX 24 GB GDDR6

61.42 TFLOPS

AMD Radeon PRO W7900 48 GB GDDR6

61.32 TFLOPS

NVIDIA H800 SXM5 80 GB HBM3

59.3 TFLOPS

관련 비교

1

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 96 GB

2

NVIDIA H100 SXM5 96 GB vs NVIDIA A800 PCIe 80 GB

3

NVIDIA H100 SXM5 96 GB vs NVIDIA GRID RTX T10 4

4

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 96 GB

5

NVIDIA Tesla T4 vs NVIDIA H100 SXM5 96 GB

6

NVIDIA H100 SXM5 96 GB vs NVIDIA A100 PCIe 80 GB

7

NVIDIA GeForce RTX 4090 vs NVIDIA H100 SXM5 96 GB

8

NVIDIA H100 SXM5 96 GB vs NVIDIA Tesla K40s

9

NVIDIA H100 SXM5 96 GB vs NVIDIA GRID K160Q

10

NVIDIA H100 SXM5 96 GB vs NVIDIA Quadro FX 380 LP