NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 4090 Ti

VS

NVIDIA H100 PCIe 96 GB NVIDIA GeForce RTX 4090 Ti

AI GPU 私たちは向けの96GBのメモリを搭載した H100 PCIe 96 GB とデスクトッププラットフォーム向けの24GBのメモリを搭載した GeForce RTX 4090 Ti を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA H100 PCIe 96 GB の利点

より大きな VRAM (96GB vs 24GB)

より大きなメモリ帯域幅 (1681GB/s vs 1152GB/s)

NVIDIA GeForce RTX 4090 Ti の利点

最大ブーストクロックは 40% 向上しました (2565MHz と 1837MHz)

追加されたレンダリングコア数は 1280個です

より低いTDP電力 (600W と 700W)

スコア

ベンチマーク

FP32 (浮動小数点)

H100 PCIe 96 GB

62.08 TFLOPS

GeForce RTX 4090 Ti +50%

93.24 TFLOPS

H100 PCIe 96 GB

VS

GeForce RTX 4090 Ti

グラフィックスカード

2023年3月

リリース日

不明

Tesla Hopper

世代

GeForce 40

AI GPU

タイプ

デスクトップ

PCIe 5.0 x16

バスインターフェース

PCIe 4.0 x16

クロック速度

1665 MHz

ベースクロック

2325 MHz

1837 MHz

ブーストクロック

2565 MHz

1313 MHz

メモリクロック

1500 MHz

メモリ

96GB

メモリサイズ

24GB

HBM3

メモリタイプ

GDDR6X

5120bit

メモリバス

384bit

1681GB/s

帯域幅

1152GB/s

レンダリング設定

132

SM数

142

-

計算ユニット

-

16896

シェーディングユニット

18176

528

TMU

568

24

ROP

192

528

テンソルコア

568

-

RTコア

142

256 KB (per SM)

L1キャッシュ

128 KB (per SM)

50 MB

L2キャッシュ

96 MB

理論的な性能

44.09 GPixel/s

ピクセルレート

492.5 GPixel/s

969.9 GTexel/s

テクスチャレート

1457 GTexel/s

248.3 TFLOPS

FP16 (半精度)

93.24 TFLOPS

62.08 TFLOPS

FP32 (単精度)

93.24 TFLOPS

31.04 TFLOPS

FP64 (倍精度)

1457 GFLOPS

グラフィックスプロセッサ

GH100

GPU名

AD102

-

GPUバリアント

AD102-400-A1

Hopper

アーキテクチャ

Ada Lovelace

TSMC

ファウンドリ

TSMC

4 nm

プロセスサイズ

5 nm

800 億

トランジスタ

763 億

814 mm²

ダイサイズ

609 mm²

ボード設計

700W

TDP

600W

1100 W

推奨PSU

1000 W

No outputs

出力

1x HDMI 2.1 3x DisplayPort 1.4a

8-pin EPS

電源コネクタ

2x 16-pin

グラフィックス機能

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

シェーダモデル

6.7

NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 4090 Ti

主要な違い

スコア

ベンチマーク

グラフィックスカード

クロック速度

メモリ

レンダリング設定

理論的な性能

グラフィックスプロセッサ

ボード設計

グラフィックス機能

関連GPU比較