Depuis l'année dernière, les GPU AI de NVIDIA sont en rupture de stock, ce qui entraîne des cycles de livraison prolongés. Par exemple, le cycle de livraison des serveurs construits avec des composants basés sur le H100 peut aller de 36 à 52 semaines. TSMC, responsable de la fabrication et de l'emballage de ces puces, a été confronté à d'importantes contraintes de capacité, principalement en raison de la disponibilité limitée de l'emballage CoWoS.
Selon DigiTimes, les initiés de l'industrie signalent une amélioration significative de la pénurie d'approvisionnement en cartes de calcul H100, avec des expéditions renforcées constatées. Au cours du premier semestre 2024, les serveurs d'IA ont été confrontés à un dilemme : ils avaient des commandes, mais pas de matériel. Cependant, à la fin du deuxième trimestre, la situation a commencé à évoluer. On s'attend à ce que les livraisons de serveurs d'IA continuent de croître au second semestre 2024, soutenues par la nouvelle génération de livraisons de l'architecture Blackwell B100/200.
Durant le deuxième trimestre, de nombreuses commandes de longue date ont enfin été honorées, et l'écart entre l'offre et la demande s'est réduit à un chiffre. À titre de comparaison, en 2023, l'écart entre l'offre et la demande se situait entre 30 % et 40 %, ce qui représente une disparité considérable. Les fabricants de produits d'origine (ODM) ont pris note de ces changements et ont enregistré une croissance notable de leurs revenus en juin. Avec l'ajout des B100/200, les ODM prévoient un pourcentage plus élevé de revenus pour les serveurs IA.
Les fournisseurs de composants ont également bénéficié de la résolution des problèmes matériels de la chaîne d'approvisionnement. Les rapports indiquent que l'itération des GPU AI a stimulé les valeurs de sortie des ventilateurs, qui sont passées de 350 à 550 dollars par rapport aux serveurs AI équipés de H100 et A100. Bien que l'augmentation exacte pour les prochains GPU B100/200 reste indéterminée puisqu'ils ne sont pas encore produits en masse, les chiffres attendus sont encore plus élevés.