Ignite デベロッパーカンファレンスで、Microsoftは最新のAzure HBv5仮想マシンを発表しました。これは、AMDが特別にカスタマイズした4つのEPYCプロセッサを搭載し、HBM3メモリを備えています。Azure VMのHBvシリーズは、高性能コンピューティングの主なボトルネックであるメモリ帯域幅を大幅に提供するよう設計されています。以前、Microsoftは3D V-Cacheテクノロジーを利用したAMDのMilan-XとGenoa-Xプロセッサを使用して帯域幅の課題に取り組んでいました。しかし、HBv5 VMの導入により、Microsoftはそのアプローチを明らかに転換しました。
Tom's Hardware によれば、Azure HBv5 VMは1つで450GBのHBM3 RAMと352個のZen 4コアを4GHzで動作し、一般的なEPYCプロセッサの2倍のインターコネクト(IF)バス帯域幅を提供します。ただし、同期マルチスレッドは無効です。さらに、ネットワークスイッチング用の800Gb/s Nvidia Quantum-2 InfiniBandを備えています。1つのHBv5 VMに4つのプロセッサを組み合わせた場合、最大6.9TB/sのメモリ帯域幅を提供します。これは、Genoa-X CPUを搭載したHBv4 VMの9倍、Milan-X CPUを搭載したHBv3 VMの20倍です。
これらのカスタムプロセッサで使用されているHBM3メモリは、3D V-Cacheと同様の機能を持ちながら、L3キャッシュとしてではなく、より大きな容量と帯域幅を備えたL4キャッシュとして動作します。これは有益ですが、3D V-Cacheのような直接的なL3キャッシュのレイテンシーには匹敵しません。しかし、この製品を対象としたワークロードでは、帯域幅が最も重要であり、レイテンシーは二次的な課題です。
4つのCPUはそれぞれ合計352個のコアで構成され、1CPUあたり88個のコアに分配されています。各CPU自体は96個のコアで構成され、8つのコアは仮想マシンの管理に予約されています。さらに、このカスタムプロセッサは、基本的にCDNA3グラフィックスを除いたMI300 A APUで、Zen 4 CCDのみを備えたMI300 Cに比較的似ています。両者のバリエーションはHBM3 RAMを搭載した96コアCPUで、最大3.7GHzの速度に達し、HBv5 VMで展開されているCPUと並行して使用できます。