NVIDIA H200 NVL vs NVIDIA RTX 3500 Embedded Ada Generation
我們比較了兩個定位於桌面平台的GPU：141GB顯存的 H200 NVL 與 12GB顯存的 RTX 3500 Embedded Ada Generation 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。
主要差異
NVIDIA H200 NVL 的優勢
發布時間晚 1 年8 個月
更大的顯存 (141GB vs 12GB)
更大的顯存頻寬 (4.89TB/s vs 432.0GB/s)
多出11776個渲染核心
NVIDIA RTX 3500 Embedded Ada Generation 的優勢
最大睿頻提高26% (2250MHz vs 1785MHz)
更低的TDP功耗(100W vs 600W)
評分
基準測試
FP32浮點性能
H200 NVL
+161%
60.32 TFLOPS
RTX 3500 Embedded Ada Generation
23.04 TFLOPS
基本信息
2024年11月
發佈日期
2023年3月
Server Hopper
產品系列
Quadro Ada-M
桌面
類型
桌面
PCIe 5.0 x16
總線介面
PCIe 4.0 x16
時鐘速度
1365 MHz
基礎頻率
1725 MHz
1785 MHz
最大睿頻
2250 MHz
1593 MHz
顯存頻率
2250 MHz
顯存
141GB
顯存容量
12GB
HBM3e
顯存類型
GDDR6
6144bit
顯存位寬
192bit
4.89TB/s
顯存帶寬
432.0GB/s
渲染規格
-
-
-
132
GPU大核數量
40
16896
流處理器數量
5120
528
紋理單元
160
24
光柵單元
64
528
張量核心
160
-
光追核心
40
256 KB (per SM)
一級緩存
128 KB (per SM)
50 MB
二級緩存
48 MB
-
-
-
理論性能
42.84 GPixel/s
像素填充率
144.0 GPixel/s
942.5 GTexel/s
紋理填充率
360.0 GTexel/s
241.3 TFLOPS
FP16性能
23.04 TFLOPS
60.32 TFLOPS
FP32性能
23.04 TFLOPS
30.16 TFLOPS
FP64性能
360.0 GFLOPS
主機板設計
600W
功率消耗
100W
1000 W
建議電源功率
300 W
No outputs
輸出介面
No outputs
8-pin EPS
電源接口
None
圖形處理器
GH100
GPU型號
AD104
-
-
-
Hopper
架構
Ada Lovelace
TSMC
晶片廠
TSMC
5 nm
晶片工藝
5 nm
800 億
晶體管數量
358 億
814 mm²
晶片面積
294 mm²
圖形特性
N/A
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
3.0
OpenCL
3.0
N/A
Vulkan
1.3
9.0
CUDA
8.9
N/A
Shader Model
6.7
