Rapport : Nvidia prévoit de réduire la configuration de la mémoire Rubin Ultra pour faire face à la pénurie de HBM haut de gamme

La vague d'intérêt pour les infrastructures de l'IA approche les limites de la chaîne d'approvisionnement.

Selon The Information, Nvidia évalue un ajustement plutôt audacieux – lancer une version du GPU d’IA de nouvelle génération Rubin Ultra avec une capacité de mémoire vidéo inférieure à celle initialement prévue afin d’atténuer les contraintes de production liées au manque d’approvisionnement en mémoire à large bande passante (HBM) haut de gamme.

Cela signifie que même Nvidia, qui détient la position dominante sur le marché des GPU, est contraint de rechercher un équilibre entre la spécification des produits et ses capacités d’approvisionnement.

Ce changement reflète non seulement que l’approvisionnement en HBM est devenu l’un des principaux goulots d’étranglement de la chaîne de l’IA, mais aussi que le coût des serveurs d’IA pourrait encore augmenter et que la pression sur le développement des centres de données continuera d’être transmise en aval.

Jeudi, le cours de l’action Nvidia a chuté de 0,1 %, tandis que celui de SK Hynix a reculé de 4,97 %.

L'offre en HBM est tendue, Nvidia teste plusieurs versions « à mémoire réduite »

Des sources proches du dossier révèlent que ces dernières semaines, Nvidia a déjà testé au moins trois versions différentes du GPU Rubin Ultra, certaines avec une capacité de mémoire inférieure à celle initialement planifiée.

L'un des motifs essentiels pour Nvidia d’envisager une version à mémoire réduite tient au fait qu’elle pourrait ne pas acquérir suffisamment de puces HBM haut de gamme à l’avenir pour soutenir la production en masse selon le design d’origine.

Rubin Ultra est l’un des éléments majeurs de la prochaine plateforme de calcul IA de Nvidia, bien plus avancé que la série Rubin bientôt en production de masse, et considéré comme la base matérielle clé pour l’entraînement de modèles d’IA à extrêmement grande échelle. Selon la planification initiale, il devait embarquer une HBM à capacité et bande passante supérieures afin d’améliorer encore la performance d’entraînement et d’inférence des modèles.

Cependant, dans un contexte persistant de pénurie de HBM, Nvidia réévalue les configurations produits, espérant ajuster les spécifications de mémoire vidéo pour garantir une mise sur le marché selon le calendrier sans devoir attendre que la chaîne d’approvisionnement s’élargisse.

Réduire la mémoire vidéo implique de déployer davantage de GPU

Pour l’entraînement IA, la HBM ne détermine pas seulement le débit de données du GPU, mais affecte directement la taille des modèles pouvant être accueillis.

Si Rubin Ultra finit par adopter une configuration de mémoire vidéo réduite, les clients pourraient devoir déployer davantage de GPU pour effectuer des tâches de calcul qui auraient pu être achevées avec moins de puces, notamment pour les grands modèles de langage et autres charges IA de grande ampleur.

Bien que Nvidia puisse en partie compenser la perte de performances grâce à une puissance de calcul accrue du GPU ou une optimisation de la bande passante interconnectée, le coût global du déploiement et la complexité des clusters pourraient tout de même augmenter.

Pour les grands acteurs du cloud tels que Microsoft, Meta, Amazon, Google, qui intensifient leurs investissements dans l’IA, cela signifie que les coûts de construction des centres de données pourraient encore s’accroître à l’avenir.

L’essor de l’IA expose le principal goulot d’étranglement de la chaîne industrielle

La HBM est devenue l’un des composants clés les plus rares de la chaîne industrielle de l’IA.

Ces dernières années, la montée rapide de la demande pour l’entraînement de grands modèles a dopé les livraisons de GPU, et leur HBM nécessaire est principalement fournie par quelques fabricants comme Samsung Electronics, SK Hynix et Micron. Étant donné la complexité de la fabrication, les exigences de rendement élevé et le long cycle d’expansion de la HBM, le rythme d’accroissement de l’offre n’a jamais pu rattraper la demande de l’IA.

Le secteur s’attend généralement à ce que la HBM reste en état de pénurie dans les années à venir, ce qui constitue l’une des raisons majeures du prix élevé persistant des serveurs d’IA.

Que Nvidia envisage activement de réduire la configuration de la mémoire vidéo de Rubin Ultra montre qu’elle est tributaire de l’approvisionnement en HBM, malgré son pouvoir de négociation le plus fort dans la chaîne industrielle.

La pression sur les coûts s’étend à l’ensemble du secteur technologique

L’impact de la hausse des prix de la HBM ne se limite plus aux serveurs d’IA.

Avec la pénurie persistante de composants clés comme GPU et HBM, le coût du matériel dans toute l’industrie technologique est poussé à la hausse. Les budgets des entreprises pour l’infrastructure IA ne cessent d’augmenter et de plus en plus d’entreprises sont obligées d’accroître leurs investissements pour répondre aux besoins déployés par l’IA générative.

Dans le même temps, la hausse des coûts des puces en amont commence à se répercuter sur la branche électronique grand public. Certains fabricants de matériel, dont Apple, ont d’ailleurs absorbé la pression sur la chaîne d’approvisionnement en augmentant les prix des produits finaux.

Les acteurs du marché estiment que tant que la demande de puissance de calcul IA continuera à croître rapidement et que le rythme de libération des nouvelles capacités de HBM restera limité, la compétition pour les ressources haut de gamme en mémoire se poursuivra. La capacité d’approvisionnement en HBM demeurera ainsi un facteur crucial du rythme d’expansion de l’industrie de l’IA.