NVIDIA Tesla T40 24 GB vs AMD Instinct MI300X

VS

NVIDIA Tesla T40 24 GB AMD Instinct MI300X

我们比较了两个定位专业市场的GPU：24GB显存的 Tesla T40 24 GB 与 192GB显存的 AMD Instinct MI300X 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。

主要差异

NVIDIA Tesla T40 24 GB 的优势

更低的TDP功耗 (260W 与 750W)

AMD Instinct MI300X 的优势

最大睿频提高35% (2100MHz 与 1560MHz)

更大的显存 (192GB 与 24GB)

更大的显存带宽 (5300GB/s 与 624.0GB/s)

多出14848个渲染核心

评分

基准测试

FP32浮点性能

Tesla T40 24 GB

14.38 TFLOPS

AMD Instinct MI300X +1036%

163.4 TFLOPS

Tesla T40 24 GB

VS

AMD Instinct MI300X

基本信息

未知

发布日期

2023年12月

Tesla Turing

产品系列

Instinct

专业

类型

专业

PCIe 3.0 x16

总线接口

PCIe 5.0 x16

时钟速度

1305 MHz

基础频率

1000 MHz

1560 MHz

最大睿频

2100 MHz

1625 MHz

显存频率

5200 MHz

显存

24GB

显存容量

192GB

GDDR6

显存类型

HBM3

384bit

显存位宽

8192bit

624.0GB/s

显存带宽

5300GB/s

渲染规格

72

GPU大核数量

-

计算单元数

304

4608

流处理器数量

19456

288

纹理单元

880

96

光栅单元

0

576

张量核心

-

72

光追核心

-

64 KB (per SM)

一级缓存

16 KB (per CU)

6 MB

二级缓存

16 MB

理论性能

149.8 GPixel/s

像素填充率

0 MPixel/s

449.3 GTexel/s

纹理填充率

1496 GTexel/s

28.75 TFLOPS

FP16性能

1300 TFLOPS

14.38 TFLOPS

FP32性能

163.4 TFLOPS

449.3 GFLOPS

FP64性能

81.7 TFLOPS

图形处理器

TU102

GPU型号

MI300

-

GPU规格

-

Turing

架构

CDNA 3.0

TSMC

芯片厂

TSMC

12 nm

芯片工艺

5 nm

186亿

晶体管数量

1460亿

754mm²

芯片面积

1017mm²

板卡设计

260W

功耗

750W

600 W

建议电源功率

1000 W

No outputs

输出接口

No outputs

1x 6-pin + 1x 8-pin

电源接口

None

图形特性

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

7.5

CUDA

-

6.7

Shader Model

N/A

相关GPU对比

1

NVIDIA Tesla P40 vs NVIDIA Tesla T40 24 GB

2

NVIDIA Tesla T40 24 GB vs NVIDIA Tesla T4

3

NVIDIA Tesla T40 24 GB vs NVIDIA Quadro RTX 4000

4

NVIDIA Tesla P100 DGXS vs NVIDIA Tesla T40 24 GB

5

NVIDIA RTX A2000 Mobile vs NVIDIA Tesla T40 24 GB

6

NVIDIA GeForce RTX 4090 vs NVIDIA Tesla T40 24 GB

7

NVIDIA Tesla T40 24 GB vs NVIDIA Tesla C2050

8

NVIDIA Tesla T40 24 GB vs NVIDIA Quadro K2000

9

NVIDIA Tesla T40 24 GB vs NVIDIA RTX A4000 Mobile

10

NVIDIA Tesla T40 24 GB vs NVIDIA Tesla X2090