NVIDIA H200 NVL vs NVIDIA RTX 3500 Embedded Ada Generation
私たちは2つのデスクトッププラットフォーム向けのGPU：141GBのメモリを搭載した H200 NVL と 12GBのメモリを搭載した RTX 3500 Embedded Ada Generation を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。
主要な違い
NVIDIA H200 NVL の利点
リリースが1年 と 8 ヶ月 遅れました
より大きな VRAM (141GB vs 12GB)
より大きなメモリ帯域幅 (4.89TB/s vs 432.0GB/s)
追加されたレンダリングコア数は 11776個です
NVIDIA RTX 3500 Embedded Ada Generation の利点
最大ブーストクロックは 26% 向上しました (2250MHz と 1785MHz)
より低いTDP電力 (100W と 600W)
スコア
ベンチマーク
FP32 (浮動小数点)
H200 NVL
+161%
60.32 TFLOPS
RTX 3500 Embedded Ada Generation
23.04 TFLOPS
グラフィックスカード
2024年11月
リリース日
2023年3月
Server Hopper
世代
Quadro Ada-M
デスクトップ
タイプ
デスクトップ
PCIe 5.0 x16
バスインターフェース
PCIe 4.0 x16
クロック速度
1365 MHz
ベースクロック
1725 MHz
1785 MHz
ブーストクロック
2250 MHz
1593 MHz
メモリクロック
2250 MHz
メモリ
141GB
メモリサイズ
12GB
HBM3e
メモリタイプ
GDDR6
6144bit
メモリバス
192bit
4.89TB/s
帯域幅
432.0GB/s
レンダリング設定
-
-
-
132
SM数
40
16896
シェーディングユニット
5120
528
TMU
160
24
ROP
64
528
テンソルコア
160
-
RTコア
40
256 KB (per SM)
L1キャッシュ
128 KB (per SM)
50 MB
L2キャッシュ
48 MB
-
-
-
理論的な性能
42.84 GPixel/s
ピクセルレート
144.0 GPixel/s
942.5 GTexel/s
テクスチャレート
360.0 GTexel/s
241.3 TFLOPS
FP16 (半精度)
23.04 TFLOPS
60.32 TFLOPS
FP32 (単精度)
23.04 TFLOPS
30.16 TFLOPS
FP64 (倍精度)
360.0 GFLOPS
ボード設計
600W
TDP
100W
1000 W
推奨PSU
300 W
No outputs
出力
No outputs
8-pin EPS
電源コネクタ
None
グラフィックスプロセッサ
GH100
GPU名
AD104
-
-
-
Hopper
アーキテクチャ
Ada Lovelace
TSMC
ファウンドリ
TSMC
5 nm
プロセスサイズ
5 nm
800 億
トランジスタ
358 億
814 mm²
ダイサイズ
294 mm²
グラフィックス機能
N/A
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
3.0
OpenCL
3.0
N/A
Vulkan
1.3
9.0
CUDA
8.9
N/A
シェーダモデル
6.7
