NVIDIA H100 SXM5 64 GB vs NVIDIA L40

VS

NVIDIA H100 SXM5 64 GB NVIDIA L40

AI GPU 私たちは向けの64GBのメモリを搭載した H100 SXM5 64 GB とプロフェッショナル市場向けの48GBのメモリを搭載した L40 を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA H100 SXM5 64 GB の利点

より大きな VRAM (64GB vs 48GB)

より大きなメモリ帯域幅 (1008GB/s vs 864.0GB/s)

NVIDIA L40 の利点

最大ブーストクロックは 26% 向上しました (2490MHz と 1980MHz)

追加されたレンダリングコア数は 1280個です

より低いTDP電力 (300W と 700W)

スコア

ベンチマーク

FP32 (浮動小数点)

H100 SXM5 64 GB

66.91 TFLOPS

L40 +35%

90.52 TFLOPS

H100 SXM5 64 GB

VS

L40

グラフィックスカード

2023年3月

リリース日

2022年10月

Tesla Hopper

世代

Tesla Ada

AI GPU

タイプ

プロフェッショナル

PCIe 5.0 x16

バスインターフェース

PCIe 4.0 x16

クロック速度

1665 MHz

ベースクロック

735 MHz

1980 MHz

ブーストクロック

2490 MHz

1313 MHz

メモリクロック

2250 MHz

メモリ

64GB

メモリサイズ

48GB

HBM3

メモリタイプ

GDDR6

3072bit

メモリバス

384bit

1008GB/s

帯域幅

864.0GB/s

レンダリング設定

132

SM数

142

-

計算ユニット

-

16896

シェーディングユニット

18176

528

TMU

568

24

ROP

192

528

テンソルコア

568

-

RTコア

142

256 KB (per SM)

L1キャッシュ

128 KB (per SM)

50 MB

L2キャッシュ

96 MB

理論的な性能

47.52 GPixel/s

ピクセルレート

478.1 GPixel/s

1045 GTexel/s

テクスチャレート

1414 GTexel/s

267.6 TFLOPS

FP16 (半精度)

90.52 TFLOPS

66.91 TFLOPS

FP32 (単精度)

90.52 TFLOPS

33.45 TFLOPS

FP64 (倍精度)

1414 GFLOPS

グラフィックスプロセッサ

GH100

GPU名

AD102

-

GPUバリアント

AD102-895-A1

Hopper

アーキテクチャ

Ada Lovelace

TSMC

ファウンドリ

TSMC

4 nm

プロセスサイズ

4 nm

800 億

トランジスタ

763 億

814 mm²

ダイサイズ

608 mm²

ボード設計

700W

TDP

300W

1100 W

推奨PSU

700 W

No outputs

出力

4x DisplayPort 1.4a

8-pin EPS

電源コネクタ

1x 16-pin

グラフィックス機能

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

シェーダモデル

6.6

NVIDIA H100 SXM5 64 GB vs NVIDIA L40

主要な違い

スコア

ベンチマーク

グラフィックスカード

クロック速度

メモリ

レンダリング設定

理論的な性能

グラフィックスプロセッサ

ボード設計

グラフィックス機能

関連GPU比較

関連ニュース