Auf der Ignite-Entwicklerkonferenz enthüllte Microsoft seine neuesten virtuellen Maschinen (VMs) der Azure HBv5-Serie. Diese werden von EPYC-Prozessoren mit HBM3-Speicher angetrieben und bieten erhebliche Vorteile im Bereich High-Performance Computing (HPC). Microsoft präsentiert die HBv5-Serie als Antwort auf die Hauptengpässe im HPC-Bereich, indem sie eine bemerkenswerte Steigerung der Speicherbandbreite ermöglichen. Diese neue Entwicklung veranschaulicht einen signifikanten Wandel gegenüber ihren vorherigen Lösungen, die auf AMDs Milan-X und Genoa-X Prozessoren mit 3D-V-Cache-Technologie beruhten.

Laut dem Technologieportal Tom's Hardware ist eine einzelne Azure HBv5 VM mit beeindruckenden 450 GB HBM3 RAM und 352 Zen 4 Kernen mit 4 GHz ausgestattet, was eine Verdopplung der typischen Interconnect-Bus-Bandbreite eines EPYC-Prozessors bedeutet. Funktionalitäten wie Synchrone Multithreading (SMT) sind deaktiviert, und die Netzwerktechnologie basiert auf 800 Gb/s Nvidia Quantum-2 InfiniBand für eine verbesserte Netzwerk-Switching-Leistung. Insgesamt erreichen die vier in jeder HBv5 VM eingesetzten Prozessoren eine Speicherbandbreite von bis zu 6,9 TB/s, was dieser Lösung enorme Vorteile im Vergleich zu früheren Generationen bietet.

Der in diesen kundenspezifischen Prozessoren genutzte HBM3-Speicher operiert ähnlich wie der 3D-V-Cache, dient allerdings als umfangreicher L4-Cache statt als L3-Cache. Dies bietet zwar nicht die gleiche Latenz wie ein direkter L3-Cache, jedoch überwiegt für die vorgesehenen Anwendungsfälle die deutliche Bandbreitensteigerung, während Latenz eine untergeordnete Rolle spielt.

Jede der vier CPUs besteht aus insgesamt 352 Kernen, die sich auf 88 Kerne pro CPU verteilen. Es ist naheliegend, dass jede CPU tatsächlich aus 96 Kernen besteht, mit acht für die Verwaltung virtueller Maschinen reservierten Kernen. Der benutzerdefinierte Prozessor, den Microsoft einsetzt, weist große Ähnlichkeiten mit dem MI300C auf, eine Version, die im Grunde die MI300A APU ohne CDNA 3-Grafik darstellt, und lediglich die Zen 4 CCD beinhaltet. Beide Varianten sind mit 96 Kernen und HBM3-RAM ausgestattet und können Taktraten von bis zu 3,7 GHz erreichen, was sie den in den neuen HBv5 VMs eingesetzten CPUs sehr ähnlich macht.