NVIDIA H100 CNX vs NVIDIA A100 PCIe

VS

NVIDIA H100 CNX NVIDIA A100 PCIe

AI GPUAI GPU เราเปรียบเทียบ การ์ดกราฟิกสองแบบ 80GB VRAM H100 CNX และ 40GB VRAM A100 PCIe เพื่อดูว่าการ์ดกราฟิกไหนมีประสิทธิภาพที่ดีกว่าในข้อมูลสเปคต่างๆ การทดสอบเบนช์มาร์ก การใช้พลังงาน ฯลฯ

ความแตกต่างหลัก

NVIDIA H100 CNX ประโยชน์ของ

เผยแพร่ล่าช้า 2 ปี และ 9 เดือน หลังจากกำหนดเวลา

นาฬิกาเพิ่มพูน เพิ่มขึ้น 31% (1845MHz vs 1410MHz)

VRAM เพิ่มเติม (80GB vs 40GB)

ประสิทธิภาพ VRAM สูงกว่า (2039GB/s vs 1555GB/s)

7680 เส้นทางการเรนเดอร์เพิ่มเติม

NVIDIA A100 PCIe ประโยชน์ของ

TDP ต่ำกว่า (250W vs 350W)

คะแนน

มาตรฐาน

FP32 (float)

H100 CNX +176%

53.84 TFLOPS

A100 PCIe

19.49 TFLOPS

H100 CNX

VS

A100 PCIe

การ์ดกราฟิก

มี.ค. 2566

วันที่เปิดตัว

มิ.ย. 2563

Tesla Hopper

รุ่น

Tesla

AI GPU

ชนิด

AI GPU

PCIe 5.0 x16

อินเทอร์เฟซบัส

PCIe 4.0 x16

ความเร็วนาฬิกา

690 MHz

นาฬิกาฐาน

765 MHz

1845 MHz

นาฬิกาเพิ่มพูน

1410 MHz

1593 MHz

นาฬิกาหน่วยความจำ

1215 MHz

หน่วยความจำ

80GB

ขนาดหน่วยความจำ

40GB

HBM2e

ประเภทหน่วยความจำ

HBM2e

5120bit

บัสหน่วยความจำ

5120bit

2039GB/s

แบนด์วิดท์

1555GB/s

การตั้งค่าการเรนเดอร์

114

จำนวน SM

108

-

หน่วยคำนวณ

-

14592

หน่วยการตีสี

6912

456

TMUs

432

24

ROPs

160

456

คอร์เทนเซอร์

432

-

คอร์ RT

-

256 KB (per SM)

แคช L1

192 KB (per SM)

50 MB

แคช L2

40 MB

ประสิทธิภาพทฤษฎี

44.28 GPixel/s

อัตราพิกเซล

225.6 GPixel/s

841.3 GTexel/s

อัตราพื้นผิว

609.1 GTexel/s

215.4 TFLOPS

FP16 (ครึ่งหนึ่ง)

77.97 TFLOPS

53.84 TFLOPS

FP32 (ทศนิยม)

19.49 TFLOPS

26.92 TFLOPS

FP64 (ทศนิยมคู่)

9.746 TFLOPS

ตัวประมวลผลกราฟิก

GH100

ชื่อ GPU

GA100

-

รุ่น GPU

-

Hopper

สถาปัตยกรรม

Ampere

TSMC

โรงหล่อ

TSMC

4 nm

ขนาดกระบวนการ

7 nm

800 ล้าน

ทรานซิสเตอร์

542 ล้าน

814 mm²

ขนาด Die

826 mm²

การออกแบบบอร์ด

350W

TDP

250W

750 W

PSU ที่แนะนำ

600 W

No outputs

ออก

No outputs

8-pin EPS

ตัวเชื่อมต่อไฟฟ้า

8-pin EPS

คุณสมบัติกราฟิก

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

โมเดลเฉด

N/A

เปรียบเทียบ GPU ที่เกี่ยวข้อง

1

NVIDIA H100 CNX vs NVIDIA Tesla V100 PCIe 32 GB

2

NVIDIA H100 CNX vs AMD Radeon Instinct MI250

3

NVIDIA H100 CNX vs NVIDIA RTX A6000

4

NVIDIA H100 CNX vs NVIDIA H100 SXM5

5

NVIDIA H100 PCIe vs NVIDIA H100 CNX

6

NVIDIA H100 CNX vs NVIDIA A800 PCIe 40 GB

7

NVIDIA Tesla C2070 vs NVIDIA H100 CNX

8

NVIDIA H100 CNX vs NVIDIA H100 SXM5

9

NVIDIA H100 CNX vs NVIDIA H100 PCIe 96 GB

10

NVIDIA H100 CNX vs NVIDIA A100 SXM4 80 GB