NVIDIA H100 PCIe vs NVIDIA L4

VS

NVIDIA H100 PCIe NVIDIA L4

AI GPU เราเปรียบเทียบ การ์ดกราฟิกแบบ 80GB VRAM H100 PCIe และการ์ดกราฟิกแบบ ตลาดโปรแอสชันแนล 24GB VRAM L4 เพื่อดูว่าการ์ดกราฟิกไหนมีประสิทธิภาพที่ดีกว่าในข้อมูลสเปคต่างๆ การทดสอบเบนช์มาร์ก การใช้พลังงาน ฯลฯ

ความแตกต่างหลัก

NVIDIA H100 PCIe ประโยชน์ของ

VRAM เพิ่มเติม (80GB vs 24GB)

ประสิทธิภาพ VRAM สูงกว่า (2039GB/s vs 300.1GB/s)

7168 เส้นทางการเรนเดอร์เพิ่มเติม

NVIDIA L4 ประโยชน์ของ

เผยแพร่ล่าช้า 1 ปี หลังจากกำหนดเวลา

นาฬิกาเพิ่มพูน เพิ่มขึ้น 16% (2040MHz vs 1755MHz)

TDP ต่ำกว่า (72W vs 350W)

คะแนน

มาตรฐาน

FP32 (float)

H100 PCIe +69%

51.22 TFLOPS

L4

30.29 TFLOPS

H100 PCIe

VS

L4

การ์ดกราฟิก

มี.ค. 2565

วันที่เปิดตัว

มี.ค. 2566

Tesla Hopper

รุ่น

Tesla Ada

AI GPU

ชนิด

อาชีพ

PCIe 5.0 x16

อินเทอร์เฟซบัส

PCIe 4.0 x16

ความเร็วนาฬิกา

1095 MHz

นาฬิกาฐาน

795 MHz

1755 MHz

นาฬิกาเพิ่มพูน

2040 MHz

1593 MHz

นาฬิกาหน่วยความจำ

1563 MHz

หน่วยความจำ

80GB

ขนาดหน่วยความจำ

24GB

HBM2e

ประเภทหน่วยความจำ

GDDR6

5120bit

บัสหน่วยความจำ

192bit

2039GB/s

แบนด์วิดท์

300.1GB/s

การตั้งค่าการเรนเดอร์

114

จำนวน SM

60

-

หน่วยคำนวณ

-

14592

หน่วยการตีสี

7424

456

TMUs

240

24

ROPs

80

456

คอร์เทนเซอร์

240

-

คอร์ RT

60

256 KB (per SM)

แคช L1

128 KB (per SM)

50 MB

แคช L2

48 MB

ประสิทธิภาพทฤษฎี

42.12 GPixel/s

อัตราพิกเซล

163.2 GPixel/s

800.3 GTexel/s

อัตราพื้นผิว

489.6 GTexel/s

204.9 TFLOPS

FP16 (ครึ่งหนึ่ง)

30.29 TFLOPS

51.22 TFLOPS

FP32 (ทศนิยม)

30.29 TFLOPS

25.61 TFLOPS

FP64 (ทศนิยมคู่)

473.3 GFLOPS

ตัวประมวลผลกราฟิก

GH100

ชื่อ GPU

AD104

-

รุ่น GPU

AD104-???-A1

Hopper

สถาปัตยกรรม

Ada Lovelace

TSMC

โรงหล่อ

TSMC

4 nm

ขนาดกระบวนการ

5 nm

800 ล้าน

ทรานซิสเตอร์

358 ล้าน

814 mm²

ขนาด Die

294 mm²

การออกแบบบอร์ด

350W

TDP

72W

750 W

PSU ที่แนะนำ

250 W

No outputs

ออก

No outputs

1x 16-pin

ตัวเชื่อมต่อไฟฟ้า

1x 16-pin

คุณสมบัติกราฟิก

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

โมเดลเฉด

6.7

เปรียบเทียบ GPU ที่เกี่ยวข้อง

1

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

2

NVIDIA L40 vs NVIDIA H100 PCIe

3

NVIDIA H100 PCIe vs NVIDIA RTX A6000

4

AMD Radeon Instinct MI300 vs NVIDIA H100 PCIe

5

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 96 GB

6

NVIDIA Tesla T4 vs NVIDIA L4

7

NVIDIA L4 vs NVIDIA Tesla V100 PCIe 32 GB

8

NVIDIA H100 PCIe vs NVIDIA A800 SXM4 80 GB

9

NVIDIA H100 PCIe vs H200 SXM

10

NVIDIA H100 PCIe vs NVIDIA H100 PCIe 96 GB