NVIDIA H100 SXM5 64 GB vs NVIDIA A100 SXM4 40 GB

VS

NVIDIA H100 SXM5 64 GB NVIDIA A100 SXM4 40 GB

AI GPUAI GPU เราเปรียบเทียบ การ์ดกราฟิกสองแบบ 64GB VRAM H100 SXM5 64 GB และ 40GB VRAM A100 SXM4 40 GB เพื่อดูว่าการ์ดกราฟิกไหนมีประสิทธิภาพที่ดีกว่าในข้อมูลสเปคต่างๆ การทดสอบเบนช์มาร์ก การใช้พลังงาน ฯลฯ

ความแตกต่างหลัก

NVIDIA H100 SXM5 64 GB ประโยชน์ของ

เผยแพร่ล่าช้า 2 ปี และ 10 เดือน หลังจากกำหนดเวลา

นาฬิกาเพิ่มพูน เพิ่มขึ้น 40% (1980MHz vs 1410MHz)

VRAM เพิ่มเติม (64GB vs 40GB)

9984 เส้นทางการเรนเดอร์เพิ่มเติม

NVIDIA A100 SXM4 40 GB ประโยชน์ของ

ประสิทธิภาพ VRAM สูงกว่า (1555GB/s vs 1008GB/s)

TDP ต่ำกว่า (400W vs 700W)

คะแนน

มาตรฐาน

FP32 (float)

H100 SXM5 64 GB +243%

66.91 TFLOPS

A100 SXM4 40 GB

19.49 TFLOPS

H100 SXM5 64 GB

VS

A100 SXM4 40 GB

การ์ดกราฟิก

มี.ค. 2566

วันที่เปิดตัว

พ.ค. 2563

Tesla Hopper

รุ่น

Tesla Ampere

AI GPU

ชนิด

AI GPU

PCIe 5.0 x16

อินเทอร์เฟซบัส

PCIe 4.0 x16

ความเร็วนาฬิกา

1665 MHz

นาฬิกาฐาน

1095 MHz

1980 MHz

นาฬิกาเพิ่มพูน

1410 MHz

1313 MHz

นาฬิกาหน่วยความจำ

1215 MHz

หน่วยความจำ

64GB

ขนาดหน่วยความจำ

40GB

HBM3

ประเภทหน่วยความจำ

HBM2e

3072bit

บัสหน่วยความจำ

5120bit

1008GB/s

แบนด์วิดท์

1555GB/s

การตั้งค่าการเรนเดอร์

132

จำนวน SM

108

-

หน่วยคำนวณ

-

16896

หน่วยการตีสี

6912

528

TMUs

432

24

ROPs

160

528

คอร์เทนเซอร์

432

-

คอร์ RT

-

256 KB (per SM)

แคช L1

192 KB (per SM)

50 MB

แคช L2

40 MB

ประสิทธิภาพทฤษฎี

47.52 GPixel/s

อัตราพิกเซล

225.6 GPixel/s

1045 GTexel/s

อัตราพื้นผิว

609.1 GTexel/s

267.6 TFLOPS

FP16 (ครึ่งหนึ่ง)

77.97 TFLOPS

66.91 TFLOPS

FP32 (ทศนิยม)

19.49 TFLOPS

33.45 TFLOPS

FP64 (ทศนิยมคู่)

9.746 TFLOPS

ตัวประมวลผลกราฟิก

GH100

ชื่อ GPU

GA100

-

รุ่น GPU

-

Hopper

สถาปัตยกรรม

Ampere

TSMC

โรงหล่อ

TSMC

4 nm

ขนาดกระบวนการ

7 nm

800 ล้าน

ทรานซิสเตอร์

542 ล้าน

814 mm²

ขนาด Die

826 mm²

การออกแบบบอร์ด

700W

TDP

400W

1100 W

PSU ที่แนะนำ

800 W

No outputs

ออก

No outputs

8-pin EPS

ตัวเชื่อมต่อไฟฟ้า

None

คุณสมบัติกราฟิก

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

โมเดลเฉด

N/A

เปรียบเทียบ GPU ที่เกี่ยวข้อง

1

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 64 GB

2

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 64 GB

3

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 96 GB

4

Intel Data Center GPU Max 1100 vs NVIDIA H100 SXM5 64 GB

5

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 64 GB

6

NVIDIA Tesla K20s vs NVIDIA H100 SXM5 64 GB

7

NVIDIA Quadro M2200 Mobile vs NVIDIA H100 SXM5 64 GB

8

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 SXM4 80 GB

9

NVIDIA H100 SXM5 64 GB vs NVIDIA A100 SXM4 40 GB

10

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 PCIe 40 GB