NVIDIA A100 PCIe vs NVIDIA H100 PCIe 80 GB

VS

AI GPUAI GPU 私たちは2つの向けのGPU：40GBのメモリを搭載した A100 PCIe と 80GBのメモリを搭載した H100 PCIe 80 GB を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA A100 PCIe の利点

より低いTDP電力 (250W と 350W)

NVIDIA H100 PCIe 80 GB の利点

リリースが2年と 9 ヶ月遅れました

最大ブーストクロックは 24% 向上しました (1755MHz と 1410MHz)

より大きな VRAM (80GB vs 40GB)

より大きなメモリ帯域幅 (2039GB/s vs 1555GB/s)

追加されたレンダリングコア数は 7680個です

スコア

ベンチマーク

FP32 (浮動小数点)

A100 PCIe

19.49 TFLOPS

H100 PCIe 80 GB +162%

51.22 TFLOPS

A100 PCIe

VS

H100 PCIe 80 GB

グラフィックスカード

2020年6月

リリース日

2023年3月

Tesla

世代

Tesla Hopper

AI GPU

タイプ

AI GPU

PCIe 4.0 x16

バスインターフェース

PCIe 5.0 x16

クロック速度

765 MHz

ベースクロック

1095 MHz

1410 MHz

ブーストクロック

1755 MHz

1215 MHz

メモリクロック

1593 MHz

メモリ

40GB

メモリサイズ

80GB

HBM2e

メモリタイプ

HBM2e

5120bit

メモリバス

5120bit

1555GB/s

帯域幅

2039GB/s

レンダリング設定

108

SM数

114

-

計算ユニット

-

6912

シェーディングユニット

14592

432

TMU

456

160

ROP

24

432

テンソルコア

456

-

RTコア

-

192 KB (per SM)

L1キャッシュ

256 KB (per SM)

40 MB

L2キャッシュ

50 MB

理論的な性能

225.6 GPixel/s

ピクセルレート

42.12 GPixel/s

609.1 GTexel/s

テクスチャレート

800.3 GTexel/s

77.97 TFLOPS

FP16 (半精度)

204.9 TFLOPS

19.49 TFLOPS

FP32 (単精度)

51.22 TFLOPS

9.746 TFLOPS

FP64 (倍精度)

25.61 TFLOPS

グラフィックスプロセッサ

GA100

GPU名

GH100

-

GPUバリアント

-

Ampere

アーキテクチャ

Hopper

TSMC

ファウンドリ

TSMC

7 nm

プロセスサイズ

4 nm

542 億

トランジスタ

800 億

826 mm²

ダイサイズ

814 mm²

ボード設計

250W

TDP

350W

600 W

推奨PSU

750 W

No outputs

出力

No outputs

8-pin EPS

電源コネクタ

1x 16-pin

グラフィックス機能

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

シェーダモデル

N/A