NVIDIA H200 NVL vs NVIDIA RTX 3500 Embedded Ada Generation
Wir vergleichen zwei Desktop Plattform GPUs: H200 NVL mit 141GB VRAM und RTX 3500 Embedded Ada Generation mit 12GB VRAM . Sie erfahren, welche GPU in wichtigen Spezifikationen, Benchmark-Tests, Stromverbrauch und mehr die bessere Leistung bietet.
Hauptunterschiede
NVIDIA H200 NVL Vorteil von
1 Jahre und 8 Monate später veröffentlicht
Mehr VRAM (141GB gegenüber 12GB)
Höhere VRAM-Bandbreite (4.89TB/s gegenüber 432.0GB/s)
11776 zusätzliche Render-Kerne
NVIDIA RTX 3500 Embedded Ada Generation Vorteil von
@if(System.Math.Min(Model.v1,Model.v2) > 0){
@($"{Model.title} wurde um { System.Math.Round( System.Math.Abs(Model.v1-Model.v2)*100 /System.Math.Min(Model.v1,Model.v2)) }% erhöht ({Model.v1}MHz gegenüber {Model.v2}MHz)" )
}else{
@($"{Model.title} {System.Math.Max(Model.v1,Model.v2)}MHz " )
}
Geringerer TDP (100W gegenüber 600W)
Punktzahl
Benchmark
FP32 Gleitkomma-Performance
H200 NVL
+161%
60.32 TFLOPS
RTX 3500 Embedded Ada Generation
23.04 TFLOPS
Grafikkarte
Nov 2024
Veröffentlichungsdatum
Mär 2023
Server Hopper
Generation
Quadro Ada-M
Desktop
Typ
Desktop
PCIe 5.0 x16
Bus-Schnittstelle
PCIe 4.0 x16
Taktraten
1365 MHz
Basis-Takt
1725 MHz
1785 MHz
Boost-Takt
2250 MHz
1593 MHz
Speichertakt
2250 MHz
Speicher
141GB
Speichergröße
12GB
HBM3e
Speichertyp
GDDR6
6144bit
Speicherbus
192bit
4.89TB/s
Bandbreite
432.0GB/s
Render-Konfiguration
-
-
-
132
SM-Anzahl
40
16896
Shading-Einheiten
5120
528
TMUs
160
24
ROPs
64
528
Tensor-Kerne
160
-
RT-Kerne
40
256 KB (per SM)
L1-Cache
128 KB (per SM)
50 MB
L2-Cache
48 MB
-
-
-
Theoretische Leistung
42.84 GPixel/s
Pixeltakt
144.0 GPixel/s
942.5 GTexel/s
Texture-Takt
360.0 GTexel/s
241.3 TFLOPS
FP16 (halbe Genauigkeit)
23.04 TFLOPS
60.32 TFLOPS
FP32 (Gleitkommazahl)
23.04 TFLOPS
30.16 TFLOPS
FP64 (Doppelte Gleitkommazahl)
360.0 GFLOPS
Board-Design
600W
TDP (Thermal Design Power)
100W
1000 W
Empfohlene PSU (Stromversorgung)
300 W
No outputs
Ausgänge
No outputs
8-pin EPS
Stromanschlüsse
None
Grafikprozessor
GH100
GPU-Name
AD104
-
-
-
Hopper
Architektur
Ada Lovelace
TSMC
Foundry
TSMC
5 nm
Prozessgröße
5 nm
80000 million
Transistoren
35800 million
814 mm²
Die-Größe
294 mm²
Grafikfunktionen
N/A
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
3.0
OpenCL
3.0
N/A
Vulkan
1.3
9.0
CUDA
8.9
N/A
Shader-Modell
6.7
