AMD ha ufficialmente annunciato non solo la scheda acceleratrice Instinct MI325X, ma ha anche presentato il primo prodotto della sua prossima serie Instinct MI350: l'Instinct MI355X. Sono state condivise alcune specifiche e dati sulle prestazioni. L'MI355X sarà disponibile nella seconda metà del 2025, quindi a quasi un anno di distanza.
La serie MI350 rappresenterà il debutto del processo a 3nm di TSMC e dell'architettura CDNA 4, insieme all'introduzione dei dati a virgola mobile FP6 e FP4. Continuando con l'uso di memoria HBM3E, la capacità ora raggiunge un impressionante 288GB. Sebbene i numeri specifici di consumo energetico non siano stati divulgati, l'MI325X arriva fino a 1000W. AMD indica che l'MI355X si allineerà alle tendenze del settore (NVIDIA B200 1000W, GB200 1700W), suggerendo che supererà significativamente i 1000W.
Il 6PQ e il 4PQ sono formati di dati a virgola mobile che rappresentano 6-bit e 4-bit di precisione, riducendo notevolmente la precisione rispetto ai 16PQ e 8PQ, ma anche il volume dei dati, rendendoli ideali per quantificare grandi modelli, in particolare nei casi come i grandi modelli linguistici e la gestione dei modelli esperti. Se la precisione non è una priorità e si desidera maggiore velocità, il 6PQ e il 4PQ eccellono in questo contesto.
Sull'MI355X, il 6PQ e il 4PQ offrono una performance di 9,2 PFlops (92 trilioni di operazioni al secondo), con un miglioramento dell'80% delle prestazioni rispetto ai 16PQ e 8PQ, che raggiungono rispettivamente 2,3 e 4,6 PFlops.
Le GPU Blackwell di Nvidia introducono anche la precisione FP6 e FP4, ma con livelli di prestazioni più elevati, raggiungendo rispettivamente 20 PFlops e 40 PFlops.
La generosa dotazione di fino a 288GB di memoria HBM3E su una singola scheda è ineguagliabile, con una larghezza di banda che arriva fino a 8TB/s. Rispetto all'MI325X, ci sono rispettivamente aumenti di 1/8 e 1/3, mentre entrambe le metriche sono aumentate del 50% rispetto al MI300X attualmente disponibile. Al contrario, il Blackwell B200 offre solo 192GB di HBM3E, ma corrisponde alla larghezza di banda di 8TB/s.
L'MI355X supporta otto schede su una singola piattaforma, offrendo una capacità combinata massiccia di 2,3TB di memoria HBM3E, 64TB/s di larghezza di banda e prestazioni che raggiungono fino a 18,5 PFlops in FP16, 37 PFlops in FP8 e 74 PFlops in FP6/FP4. Questo avanzamento sarà disponibile anche nella seconda metà del prossimo anno.
La serie Instinct di AMD ha mostrato notevoli progressi nei miglioramenti delle prestazioni, evidenziando migliorie innovative da una generazione all'altra con metriche comparative impressionanti. Quando si confronta l'MI355X con l'MI300X, le prestazioni dei 16PQ aumentano fino a 7,4 volte, la capacità HBM è 1,5 volte maggiore e la capacità di elaborare i parametri del modello salta da 714 miliardi a 4,2 trilioni, indicando un aumento di 6 volte.
Guardando al futuro, l'anno 2026 sarà testimone del lancio della serie Instinct MI400 di nuova generazione, che dovrebbe incorporare la prossima architettura CDNA (possibilmente CDNA 5?), portando sia le specifiche che le prestazioni a un nuovo apice.
