NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 64 GB

VS

NVIDIA A100 SXM4 40 GB NVIDIA H100 SXM5 64 GB

AI GPUAI GPU 私たちは2つの向けのGPU：40GBのメモリを搭載した A100 SXM4 40 GB と 64GBのメモリを搭載した H100 SXM5 64 GB を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA A100 SXM4 40 GB の利点

より大きなメモリ帯域幅 (1555GB/s vs 1008GB/s)

より低いTDP電力 (400W と 700W)

NVIDIA H100 SXM5 64 GB の利点

リリースが2年と 10 ヶ月遅れました

最大ブーストクロックは 40% 向上しました (1980MHz と 1410MHz)

より大きな VRAM (64GB vs 40GB)

追加されたレンダリングコア数は 9984個です

スコア

ベンチマーク

FP32 (浮動小数点)

A100 SXM4 40 GB

19.49 TFLOPS

H100 SXM5 64 GB +243%

66.91 TFLOPS

A100 SXM4 40 GB

VS

H100 SXM5 64 GB

グラフィックスカード

2020年5月

リリース日

2023年3月

Tesla Ampere

世代

Tesla Hopper

AI GPU

タイプ

AI GPU

PCIe 4.0 x16

バスインターフェース

PCIe 5.0 x16

クロック速度

1095 MHz

ベースクロック

1665 MHz

1410 MHz

ブーストクロック

1980 MHz

1215 MHz

メモリクロック

1313 MHz

メモリ

40GB

メモリサイズ

64GB

HBM2e

メモリタイプ

HBM3

5120bit

メモリバス

3072bit

1555GB/s

帯域幅

1008GB/s

レンダリング設定

108

SM数

132

-

計算ユニット

-

6912

シェーディングユニット

16896

432

TMU

528

160

ROP

24

432

テンソルコア

528

-

RTコア

-

192 KB (per SM)

L1キャッシュ

256 KB (per SM)

40 MB

L2キャッシュ

50 MB

理論的な性能

225.6 GPixel/s

ピクセルレート

47.52 GPixel/s

609.1 GTexel/s

テクスチャレート

1045 GTexel/s

77.97 TFLOPS

FP16 (半精度)

267.6 TFLOPS

19.49 TFLOPS

FP32 (単精度)

66.91 TFLOPS

9.746 TFLOPS

FP64 (倍精度)

33.45 TFLOPS

グラフィックスプロセッサ

GA100

GPU名

GH100

-

GPUバリアント

-

Ampere

アーキテクチャ

Hopper

TSMC

ファウンドリ

TSMC

7 nm

プロセスサイズ

4 nm

542 億

トランジスタ

800 億

826 mm²

ダイサイズ

814 mm²

ボード設計

400W

TDP

700W

800 W

推奨PSU

1100 W

No outputs

出力

No outputs

None

電源コネクタ

8-pin EPS

グラフィックス機能

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

シェーダモデル

N/A