NVIDIA A100 PCIe vs NVIDIA H100 PCIe

VS

NVIDIA A100 PCIe NVIDIA H100 PCIe

AI GPUAI GPU เราเปรียบเทียบ การ์ดกราฟิกสองแบบ 40GB VRAM A100 PCIe และ 80GB VRAM H100 PCIe เพื่อดูว่าการ์ดกราฟิกไหนมีประสิทธิภาพที่ดีกว่าในข้อมูลสเปคต่างๆ การทดสอบเบนช์มาร์ก การใช้พลังงาน ฯลฯ

ความแตกต่างหลัก

NVIDIA A100 PCIe ประโยชน์ของ

TDP ต่ำกว่า (250W vs 350W)

NVIDIA H100 PCIe ประโยชน์ของ

เผยแพร่ล่าช้า 1 ปี และ 9 เดือน หลังจากกำหนดเวลา

นาฬิกาเพิ่มพูน เพิ่มขึ้น 24% (1755MHz vs 1410MHz)

VRAM เพิ่มเติม (80GB vs 40GB)

ประสิทธิภาพ VRAM สูงกว่า (2039GB/s vs 1555GB/s)

7680 เส้นทางการเรนเดอร์เพิ่มเติม

คะแนน

มาตรฐาน

FP32 (float)

A100 PCIe

19.49 TFLOPS

H100 PCIe +162%

51.22 TFLOPS

A100 PCIe

VS

H100 PCIe

การ์ดกราฟิก

มิ.ย. 2563

วันที่เปิดตัว

มี.ค. 2565

Tesla

รุ่น

Tesla Hopper

AI GPU

ชนิด

AI GPU

PCIe 4.0 x16

อินเทอร์เฟซบัส

PCIe 5.0 x16

ความเร็วนาฬิกา

765 MHz

นาฬิกาฐาน

1095 MHz

1410 MHz

นาฬิกาเพิ่มพูน

1755 MHz

1215 MHz

นาฬิกาหน่วยความจำ

1593 MHz

หน่วยความจำ

40GB

ขนาดหน่วยความจำ

80GB

HBM2e

ประเภทหน่วยความจำ

HBM2e

5120bit

บัสหน่วยความจำ

5120bit

1555GB/s

แบนด์วิดท์

2039GB/s

การตั้งค่าการเรนเดอร์

108

จำนวน SM

114

-

หน่วยคำนวณ

-

6912

หน่วยการตีสี

14592

432

TMUs

456

160

ROPs

24

432

คอร์เทนเซอร์

456

-

คอร์ RT

-

192 KB (per SM)

แคช L1

256 KB (per SM)

40 MB

แคช L2

50 MB

ประสิทธิภาพทฤษฎี

225.6 GPixel/s

อัตราพิกเซล

42.12 GPixel/s

609.1 GTexel/s

อัตราพื้นผิว

800.3 GTexel/s

77.97 TFLOPS

FP16 (ครึ่งหนึ่ง)

204.9 TFLOPS

19.49 TFLOPS

FP32 (ทศนิยม)

51.22 TFLOPS

9.746 TFLOPS

FP64 (ทศนิยมคู่)

25.61 TFLOPS

ตัวประมวลผลกราฟิก

GA100

ชื่อ GPU

GH100

-

รุ่น GPU

-

Ampere

สถาปัตยกรรม

Hopper

TSMC

โรงหล่อ

TSMC

7 nm

ขนาดกระบวนการ

4 nm

542 ล้าน

ทรานซิสเตอร์

800 ล้าน

826 mm²

ขนาด Die

814 mm²

การออกแบบบอร์ด

250W

TDP

350W

600 W

PSU ที่แนะนำ

750 W

No outputs

ออก

No outputs

8-pin EPS

ตัวเชื่อมต่อไฟฟ้า

1x 16-pin

คุณสมบัติกราฟิก

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

โมเดลเฉด

N/A

เปรียบเทียบ GPU ที่เกี่ยวข้อง

1

NVIDIA L4 vs NVIDIA A100 PCIe

2

NVIDIA Tesla T4 vs NVIDIA A100 PCIe

3

NVIDIA A100 PCIe vs NVIDIA L40

4

NVIDIA A100 PCIe vs NVIDIA RTX 6000 Ada

5

NVIDIA A100 PCIe vs NVIDIA A40 PCIe

6

NVIDIA A100 PCIe vs NVIDIA A10 PCIe

7

NVIDIA H100 PCIe vs NVIDIA RTX A6000

8

NVIDIA A100 PCIe vs NVIDIA A800 PCIe 40 GB

9

NVIDIA A100 PCIe vs NVIDIA H100 PCIe 80 GB

10

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 80 GB