NVIDIA H200 NVL vs NVIDIA RTX 3500 Embedded Ada Generation
Nous avons comparé deux GPUs Plateforme de bureau: 141GB VRAM H200 NVL et 12GB VRAM RTX 3500 Embedded Ada Generation pour déterminer lequel offre de meilleures performances en termes de spécifications clés, de tests de référence, de consommation d'énergie, etc.
Différences principales
NVIDIA H200 NVL Avantages de
Sorti avec un retard de 1 an(s) et 8 mois
Plus de VRAM (141GB vs 12GB)
Bande passante VRAM plus élevée (4.89TB/s vs 432.0GB/s)
11776 cœurs de rendu supplémentaires
NVIDIA RTX 3500 Embedded Ada Generation Avantages de
Horloge Boost a augmenté de 26% (2250MHz vs 1785MHz)
Consommation d'énergie plus faible (100W vs 600W)
Score
Benchmark
FP32 (flottant)
H200 NVL
+161%
60.32 TFLOPS
RTX 3500 Embedded Ada Generation
23.04 TFLOPS
Carte graphique
nov. 2024
Date de sortie
mars 2023
Server Hopper
Génération
Quadro Ada-M
Ordinateur de bureau
Type
Ordinateur de bureau
PCIe 5.0 x16
Interface de bus
PCIe 4.0 x16
Vitesses d'horloge
1365 MHz
Horloge de base
1725 MHz
1785 MHz
Horloge Boost
2250 MHz
1593 MHz
Horloge Mémoire
2250 MHz
Mémoire
141GB
Taille de Mémoire
12GB
HBM3e
Type de Mémoire
GDDR6
6144bit
Bus de Mémoire
192bit
4.89TB/s
Bande Passante
432.0GB/s
Config de rendu
-
-
-
132
Nombre de SM
40
16896
Unités d'Ombrage
5120
528
TMUs
160
24
ROPs
64
528
Cœurs de Tensor
160
-
Cœurs RT
40
256 KB (per SM)
Cache L1
128 KB (per SM)
50 MB
Cache L2
48 MB
-
-
-
Performance théorique
42.84 GPixel/s
Taux de Pixel
144.0 GPixel/s
942.5 GTexel/s
Taux de Texture
360.0 GTexel/s
241.3 TFLOPS
FP16 (demi)
23.04 TFLOPS
60.32 TFLOPS
FP32 (flottant)
23.04 TFLOPS
30.16 TFLOPS
FP64 (double précision)
360.0 GFLOPS
Conception de carte
600W
TDP
100W
1000 W
Alimentation suggérée
300 W
No outputs
Sorties
No outputs
8-pin EPS
Connecteurs d'alimentation
None
Processeur graphique
GH100
Nom du GPU
AD104
-
-
-
Hopper
Architecture
Ada Lovelace
TSMC
Fonderie
TSMC
5 nm
Taille de processus
5 nm
80 milliard
Transistors
35.8 milliard
814 mm²
Taille de Die
294 mm²
Fonctions graphiques
N/A
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
3.0
OpenCL
3.0
N/A
Vulkan
1.3
9.0
CUDA
8.9
N/A
Modèle de shader
6.7
