NVIDIA H100 SXM5 64 GB vs NVIDIA Tesla K40st

VS

NVIDIA H100 SXM5 64 GB NVIDIA Tesla K40st

AI GPU 私たちは向けの64GBのメモリを搭載した H100 SXM5 64 GB とプロフェッショナル市場向けの12GBのメモリを搭載した Tesla K40st を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA H100 SXM5 64 GB の利点

リリースが9年と 4 ヶ月遅れました

最大ブーストクロックは 1980MHz です

より大きな VRAM (64GB vs 12GB)

より大きなメモリ帯域幅 (1008GB/s vs 288.4GB/s)

追加されたレンダリングコア数は 14016個です

NVIDIA Tesla K40st の利点

より低いTDP電力 (245W と 700W)

スコア

ベンチマーク

FP32 (浮動小数点)

H100 SXM5 64 GB +1920%

66.91 TFLOPS

Tesla K40st

3.312 TFLOPS

H100 SXM5 64 GB

VS

Tesla K40st

グラフィックスカード

2023年3月

リリース日

2013年11月

Tesla Hopper

世代

Tesla

AI GPU

タイプ

プロフェッショナル

PCIe 5.0 x16

バスインターフェース

PCIe 3.0 x16

クロック速度

1665 MHz

ベースクロック

-

1980 MHz

ブーストクロック

-

1313 MHz

メモリクロック

1502 MHz

メモリ

64GB

メモリサイズ

12GB

HBM3

メモリタイプ

GDDR5

3072bit

メモリバス

384bit

1008GB/s

帯域幅

288.4GB/s

レンダリング設定

132

SM数

-

計算ユニット

-

16896

シェーディングユニット

2880

528

TMU

240

24

ROP

48

528

テンソルコア

-

RTコア

-

256 KB (per SM)

L1キャッシュ

16 KB (per SMX)

50 MB

L2キャッシュ

1536 KB

理論的な性能

47.52 GPixel/s

ピクセルレート

34.50 GPixel/s

1045 GTexel/s

テクスチャレート

138.0 GTexel/s

267.6 TFLOPS

FP16 (半精度)

-

66.91 TFLOPS

FP32 (単精度)

3.312 TFLOPS

33.45 TFLOPS

FP64 (倍精度)

1104 GFLOPS

グラフィックスプロセッサ

GH100

GPU名

GK110B

-

GPUバリアント

-

Hopper

アーキテクチャ

Kepler

TSMC

ファウンドリ

TSMC

4 nm

プロセスサイズ

28 nm

800 億

トランジスタ

70.8 億

814 mm²

ダイサイズ

561 mm²

ボード設計

700W

TDP

245W

1100 W

推奨PSU

550 W

No outputs

出力

No outputs

8-pin EPS

電源コネクタ

-

グラフィックス機能

N/A

DirectX

12 (11_1)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.1

9.0

CUDA

3.5

N/A

シェーダモデル

5.1