AMD Instinct MI300X vs NVIDIA H100 PCIe 96 GB

VS

AMD Instinct MI300X NVIDIA H100 PCIe 96 GB

AI GPU 私たちはプロフェッショナル市場向けの192GBのメモリを搭載した AMD Instinct MI300X と向けの96GBのメモリを搭載した H100 PCIe 96 GB を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

AMD Instinct MI300X の利点

リリースが9ヶ月遅れました

最大ブーストクロックは 14% 向上しました (2100MHz と 1837MHz)

より大きな VRAM (192GB vs 96GB)

より大きなメモリ帯域幅 (5300GB/s vs 1681GB/s)

追加されたレンダリングコア数は 2560個です

NVIDIA H100 PCIe 96 GB の利点

より低いTDP電力 (700W と 750W)

スコア

ベンチマーク

FP32 (浮動小数点)

AMD Instinct MI300X +163%

163.4 TFLOPS

H100 PCIe 96 GB

62.08 TFLOPS

AMD Instinct MI300X

VS

H100 PCIe 96 GB

グラフィックスカード

2023年12月

リリース日

2023年3月

Instinct

世代

Tesla Hopper

プロフェッショナル

タイプ

AI GPU

PCIe 5.0 x16

バスインターフェース

PCIe 5.0 x16

クロック速度

1000 MHz

ベースクロック

1665 MHz

2100 MHz

ブーストクロック

1837 MHz

5200 MHz

メモリクロック

1313 MHz

メモリ

192GB

メモリサイズ

96GB

HBM3

メモリタイプ

HBM3

8192bit

メモリバス

5120bit

5300GB/s

帯域幅

1681GB/s

レンダリング設定

-

SM数

132

304

計算ユニット

-

19456

シェーディングユニット

16896

880

TMU

528

0

ROP

24

-

テンソルコア

528

-

RTコア

-

16 KB (per CU)

L1キャッシュ

256 KB (per SM)

16 MB

L2キャッシュ

50 MB

理論的な性能

0 MPixel/s

ピクセルレート

44.09 GPixel/s

1496 GTexel/s

テクスチャレート

969.9 GTexel/s

1300 TFLOPS

FP16 (半精度)

248.3 TFLOPS

163.4 TFLOPS

FP32 (単精度)

62.08 TFLOPS

81.7 TFLOPS

FP64 (倍精度)

31.04 TFLOPS

グラフィックスプロセッサ

MI300

GPU名

GH100

-

GPUバリアント

-

CDNA 3.0

アーキテクチャ

Hopper

TSMC

ファウンドリ

TSMC

5 nm

プロセスサイズ

4 nm

1460 億

トランジスタ

800 億

1017 mm²

ダイサイズ

814 mm²

ボード設計

750W

TDP

700W

1000 W

推奨PSU

1100 W

No outputs

出力

No outputs

None

電源コネクタ

8-pin EPS

グラフィックス機能

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

9.0

N/A

シェーダモデル

N/A