NVIDIA A100 PCIe vs NVIDIA L40 CNX

VS

NVIDIA A100 PCIe NVIDIA L40 CNX

AI GPU Chúng tôi so sánh một GPU : 40GB VRAM A100 PCIe và một GPU Thị trường chuyên nghiệp: 24GB VRAM L40 CNX để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

NVIDIA A100 PCIe Ưu điểm của

VRAM nhiều hơn (40GB vs 24GB)

Băng thông VRAM lớn hơn (1555GB/s vs 864.0GB/s)

Công suất TDP thấp hơn (250W vs 300W)

NVIDIA L40 CNX Ưu điểm của

Phát hành trễ 2nămvà 4tháng

Tốc độ tăng cường đã tăng 76% (2475MHz vs 1410MHz)

11264 lõi xử lý bổ sung

Điểm số

Đánh giá

FP32 (số thực)

A100 PCIe

19.49 TFLOPS

L40 CNX +361%

89.97 TFLOPS

A100 PCIe

VS

L40 CNX

Card đồ họa

Thg 6 2020

Ngày phát hành

Thg 10 2022

Tesla

Thế hệ

Tesla Ada

GPU trí tuệ nhân tạo

Loại

Chuyên nghiệp

PCIe 4.0 x16

Giao diện bus

PCIe 4.0 x16

Tốc độ đồng hồ

765 MHz

Tốc độ cơ bản

1005 MHz

1410 MHz

Tốc độ tăng cường

2475 MHz

1215 MHz

Tốc độ bộ nhớ

2250 MHz

Bộ nhớ

40GB

Dung lượng bộ nhớ

24GB

HBM2e

Loại bộ nhớ

GDDR6

5120bit

Bus bộ nhớ

384bit

1555GB/s

Băng thông

864.0GB/s

Cấu hình hiển thị

108

Số SM

142

-

Đơn vị tính toán

-

6912

Đơn vị shading

18176

432

TMUs

568

160

ROPs

192

432

Tensor Cores

568

-

RT Cores

142

192 KB (per SM)

Bộ nhớ cache L1

128 KB (per SM)

40 MB

Bộ nhớ cache L2

48 MB

Hiệu suất lý thuyết

225.6 GPixel/s

Tốc độ pixel

475.2 GPixel/s

609.1 GTexel/s

Tốc độ texture

1406 GTexel/s

77.97 TFLOPS

FP16 (nửa)

89.97 TFLOPS

19.49 TFLOPS

FP32 (float)

89.97 TFLOPS

9.746 TFLOPS

FP64 (double)

1406 GFLOPS

Bộ xử lý đồ họa

GA100

Tên GPU

AD102

-

Phiên bản GPU

AD102-???-A1

Ampere

Kiến trúc

Ada Lovelace

TSMC

Hãng sản xuất

TSMC

7 nm

Kích thước quy trình

4 nm

542 tỷ

Transistors

763 tỷ

826 mm²

Kích thước die

608 mm²

Thiết kế bo mạch chủ

250W

Công suất tiêu thụ

300W

600 W

Nguồn điện đề xuất

700 W

No outputs

Cổng kết nối

1x HDMI 2.1 3x DisplayPort 1.4a

8-pin EPS

Đầu nối nguồn

1x 16-pin

Tính năng đồ họa

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

8.0

CUDA

8.9

N/A

Mô hình shader

6.6

So sánh GPU liên quan

1

NVIDIA L4 vs NVIDIA A100 PCIe

2

NVIDIA Tesla T4 vs NVIDIA A100 PCIe

3

NVIDIA H100 PCIe vs NVIDIA A100 PCIe

4

NVIDIA A100 PCIe vs NVIDIA L40

5

NVIDIA A100 PCIe vs NVIDIA RTX 6000 Ada

6

NVIDIA A100 PCIe vs NVIDIA A10 PCIe

7

NVIDIA A100 PCIe vs NVIDIA A40 PCIe

8

NVIDIA A100 PCIe vs NVIDIA H800 SXM5

9

NVIDIA A100 PCIe vs NVIDIA H100 CNX

10

NVIDIA A100 PCIe vs NVIDIA A800 PCIe 80 GB