NVIDIA H100 SXM5 64 GB vs NVIDIA Tesla K40st

VS

NVIDIA H100 SXM5 64 GB NVIDIA Tesla K40st

AI GPU เราเปรียบเทียบ การ์ดกราฟิกแบบ 64GB VRAM H100 SXM5 64 GB และการ์ดกราฟิกแบบ ตลาดโปรแอสชันแนล 12GB VRAM Tesla K40st เพื่อดูว่าการ์ดกราฟิกไหนมีประสิทธิภาพที่ดีกว่าในข้อมูลสเปคต่างๆ การทดสอบเบนช์มาร์ก การใช้พลังงาน ฯลฯ

ความแตกต่างหลัก

NVIDIA H100 SXM5 64 GB ประโยชน์ของ

เผยแพร่ล่าช้า 9 ปี และ 4 เดือน หลังจากกำหนดเวลา

นาฬิกาเพิ่มพูน1980MHz

VRAM เพิ่มเติม (64GB vs 12GB)

ประสิทธิภาพ VRAM สูงกว่า (1008GB/s vs 288.4GB/s)

14016 เส้นทางการเรนเดอร์เพิ่มเติม

NVIDIA Tesla K40st ประโยชน์ของ

TDP ต่ำกว่า (245W vs 700W)

คะแนน

มาตรฐาน

FP32 (float)

H100 SXM5 64 GB +1920%

66.91 TFLOPS

Tesla K40st

3.312 TFLOPS

H100 SXM5 64 GB

VS

Tesla K40st

การ์ดกราฟิก

มี.ค. 2566

วันที่เปิดตัว

พ.ย. 2556

Tesla Hopper

รุ่น

Tesla

AI GPU

ชนิด

อาชีพ

PCIe 5.0 x16

อินเทอร์เฟซบัส

PCIe 3.0 x16

ความเร็วนาฬิกา

1665 MHz

นาฬิกาฐาน

-

1980 MHz

นาฬิกาเพิ่มพูน

-

1313 MHz

นาฬิกาหน่วยความจำ

1502 MHz

หน่วยความจำ

64GB

ขนาดหน่วยความจำ

12GB

HBM3

ประเภทหน่วยความจำ

GDDR5

3072bit

บัสหน่วยความจำ

384bit

1008GB/s

แบนด์วิดท์

288.4GB/s

การตั้งค่าการเรนเดอร์

132

จำนวน SM

-

หน่วยคำนวณ

-

16896

หน่วยการตีสี

2880

528

TMUs

240

24

ROPs

48

528

คอร์เทนเซอร์

-

คอร์ RT

-

256 KB (per SM)

แคช L1

16 KB (per SMX)

50 MB

แคช L2

1536 KB

ประสิทธิภาพทฤษฎี

47.52 GPixel/s

อัตราพิกเซล

34.50 GPixel/s

1045 GTexel/s

อัตราพื้นผิว

138.0 GTexel/s

267.6 TFLOPS

FP16 (ครึ่งหนึ่ง)

-

66.91 TFLOPS

FP32 (ทศนิยม)

3.312 TFLOPS

33.45 TFLOPS

FP64 (ทศนิยมคู่)

1104 GFLOPS

ตัวประมวลผลกราฟิก

GH100

ชื่อ GPU

GK110B

-

รุ่น GPU

-

Hopper

สถาปัตยกรรม

Kepler

TSMC

โรงหล่อ

TSMC

4 nm

ขนาดกระบวนการ

28 nm

800 ล้าน

ทรานซิสเตอร์

70.8 ล้าน

814 mm²

ขนาด Die

561 mm²

การออกแบบบอร์ด

700W

TDP

245W

1100 W

PSU ที่แนะนำ

550 W

No outputs

ออก

No outputs

8-pin EPS

ตัวเชื่อมต่อไฟฟ้า

-

คุณสมบัติกราฟิก

N/A

DirectX

12 (11_1)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.1

9.0

CUDA

3.5

N/A

โมเดลเฉด

5.1

เปรียบเทียบ GPU ที่เกี่ยวข้อง

1

NVIDIA A10G vs NVIDIA H100 SXM5 64 GB

2

NVIDIA H100 PCIe vs NVIDIA H100 SXM5 64 GB

3

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 64 GB

4

NVIDIA L4 vs NVIDIA H100 SXM5 64 GB

5

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 64 GB

6

NVIDIA Quadro M2200 Mobile vs NVIDIA H100 SXM5 64 GB

7

NVIDIA H100 SXM5 64 GB vs NVIDIA H800 SXM5

8

NVIDIA H100 SXM5 64 GB vs NVIDIA A100 PCIe

9

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 PCIe 40 GB

10

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 96 GB