Morgan Stanley : la pénurie de mémoire liée à l’IA devrait durer plusieurs années ; trois voies pour y remédier ; le stockage et la puissance de calcul hétérogène offrent des opportunités structurelles
Morgan Stanley a publié un rapport sur l'industrie des semi-conducteurs, indiquant que la pénurie de mémoire DRAM perdurera tout au long de ce cycle de l'industrie de l'IA, tandis que l'expansion de la puissance de calcul de l'IA ne patientera pas jusqu'à la mise en service de nouvelles usines de fabrication de plaquettes.
Selon les informations de Zhihui Finance APP, Morgan Stanley a publié un rapport de recherche sur l'industrie des semi-conducteurs, soulignant que la pénurie de mémoire DRAM va perdurer tout au long de ce cycle industriel de l’IA, et que l’expansion de la puissance de calcul de l’IA n’attendra pas la mise en service de nouvelles usines de wafers. L’industrie s’efforce de contourner l’obstacle des limites de la mémoire à travers trois principaux axes technologiques : la réduction des spécifications matérielles, la désagrégation de l’architecture d’inférence et la mutualisation de la mémoire via CXL, poursuivant ainsi sans relâche la construction de capacités de calcul malgré la contrainte de l’offre. La banque reste optimiste sur les leaders du stockage tels que Micron (MU.US), Sandisk (SNDK.US), tout en soulignant les opportunités de croissance dans les domaines du CXL interconnecté et de l’inférence hétérogène, recommandant Astera Labs (ALAB.US), Marvell (MRVL.US), Cerebras (CBRS.US) et Nvidia (NVDA.US).
Morgan Stanley insiste sur le fait que l’actuelle pénurie de mémoire pour l’IA n’est pas une perturbation de court terme, mais une contradiction structurelle où la croissance des performances de calcul dépasse largement la vitesse d’approvisionnement en mémoire. L’échelle des modèles de pointe double tous les six mois, la taille de la fenêtre de contexte des principaux modèles connaît une croissance annuelle de 5 à 6 fois, à laquelle s’ajoute une demande croissante de traitements d’inférence simultanés, décuplant sans cesse les besoins en capacité et en bande passante mémoire. Or, le cycle de construction d’une usine de wafers DRAM peut prendre plusieurs années, rendant l’offre très rigide, et la situation de pénurie devrait perdurer pendant plusieurs années encore. Le PDG de Nvidia, Jensen Huang, a également publiquement déclaré que le secteur devait adopter de nouvelles approches et innover dans l’architecture pour répondre aux contraintes de mémoire, plutôt que de simplement attendre une expansion des capacités de production.
Face à la tension croissante sur l’approvisionnement en HBM et en mémoire principale, la réponse la plus directe du secteur consiste à réduire sélectivement les spécifications mémoire de chaque appareil (De-speccing). Prenant pour exemple l’architecture Rubin de Nvidia, la capacité LPDDR5 par serveur a été réduite de 54 To prévus à 28 To, et la capacité HBM par GPU de 288 Go à 192 Go, garantissant ainsi les volumes de livraison par une réduction de la hauteur d’empilement de la mémoire. Morgan Stanley souligne que la réduction des spécifications ne supprime pas le goulot d’étranglement de la mémoire mais en transfère la pression entre les différents niveaux : en diminuant la mémoire locale à haute vitesse, les données non critiques telles que les caches KV sont transférées vers le stockage NAND, tandis que les interactions de données entre GPU augmentent, générant un besoin accru en bande passante réseau. En substance, il s’agit de compenser la pénurie de mémoire à large bande passante par un réseau plus rapide et des ressources de stockage à moindre coût.
La deuxième voie de contournement est la désagrégation de l’architecture d’inférence (Disaggregation). L’inférence en IA se compose de deux phases très différentes : le préremplissage (Prefill) principalement axé sur la puissance de calcul, et le décodage (Decode) qui dépend fortement de la bande passante mémoire. L’architecture traditionnelle utilise le même accélérateur pour les deux tâches, avec une faible efficacité d’utilisation des ressources. À présent, le secteur accélère la désagrégation hétérogène de l’inférence, séparant les deux phases sur des matériels distincts : le Prefill extrait demandant de la puissance de calcul est confié au GPU généraliste, tandis que le Decode, exigeant une forte bande passante mémoire, est traité par des puces accélératrices dédiées intégrant une grande capacité de SRAM sur puce.
Les exemples notables incluent le moteur à l’échelle du wafer de Cerebras et l’architecture Groq LPU rachetée par Nvidia, tous deux capables de fournir une efficacité de bande passante mémoire bien supérieure à celle des GPU traditionnels lors du décodage. Morgan Stanley estime que l’inférence hétérogène deviendra une direction majeure d’évolution des infrastructures de l’IA, les acteurs spécialisés dans le décodage s’ouvrant à un marché incrémental marquant.
La troisième voie repose sur la reconstruction du système mémoire via la technologie CXL. Le CXL (Compute Express Link) permet d’étendre, de partager et de mutualiser la mémoire via une interconnexion à haute vitesse, détachant la mémoire de tout processeur unique et devenant ainsi une voie clé pour dépasser les limites de capacité mémoire. Selon Morgan Stanley, la demande de l’IA poussera le marché du CXL et des puces additionnelles de mémoire associées à atteindre environ 6 milliards de dollars en 2030, largement supérieur à celui de l’extension mémoire CPU traditionnelle. Sa valeur centrale réside dans l’établissement d’une architecture mémoire hiérarchisée : les données les plus fréquentées sont conservées en HBM, celles de fréquentation intermédiaire dans le pool mémoire CXL, enfin les données rares ou froides sont reléguées au NAND, afin d’adapter le coût à la fréquence d’accès aux données.
Concernant les axes d’investissement, Morgan Stanley réaffirme trois directions principales : premièrement, surpondérer toujours Micron et Sandisk, la réduction des spécifications résultant d’une pénurie de l’offre et non d’une faiblesse de la demande, la demande de mémoire IA restant structurellement haussière et le déficit d’offre absorbant continuellement la capacité ; deuxièmement, se positionner sur les leaders de l’interconnexion et du scale-up par CXL, Astera Labs et Marvell ; troisièmement, surveiller les bénéficiaires de l’inférence hétérogène tels que Cerebras, et Nvidia qui perfectionne son dispositif hétérogène via l’acquisition de Groq.
Risques : croissance de la demande de puissance de calcul IA inférieure aux prévisions ; adoption plus lente que prévu de la technologie CXL ; expansion plus rapide que prévu des capacités de production de mémoire.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Apple (AAPL.US) s’associe à LG pour entrer sur le marché de la maison intelligente : des accessoires comme des sonnettes, des thermostats et des caméras porteront la marque LG.
Selon des sources proches du dossier, Apple s'apprête à renforcer sa présence sur le marché des appareils domestiques intelligents, y compris les sonnettes, thermostats et autres accessoires, et ces produits seront développés en collaboration avec LG Electronics grâce à une forme de partenariat inhabituelle.
Rétrospective-ROI-Pour le Trésor dirigé par Trump, la « queue » des enchères est la partie la plus délicate : McKeefer
Répétition, le contenu principal reste inchangé. Jamie McGeever, Reuters, Orlando, Floride, 6 octobre – Les adjudications de bons du Trésor américain devraient normalement être des affaires routinières, prévisibles et dépourvues d'intérêt médiatique. Mais l’époque actuelle n'est pas ordinaire, et l'administration Trump risque de voir la faiblesse des ventes de bons du Trésor faire la une de l’actualité. Le Trésor américain prévoit d'émettre près de 120 milliards de dollars de bons cette semaine, marquant la première émission depuis deux semaines, à l’exception des bons du Trésor à court terme : 58 milliards de dollars de bons à trois ans mardi, 39 milliards de dollars à dix ans mercredi, et 22 milliards de dollars à trente ans jeudi. Dans des conditions normales, ces adjudications n'auraient guère d'importance, mais l’intérêt s’est accru à cause des résultats extrêmement décevants des ventes des 22 au 24 septembre—en particulier celle du 23 septembre concernant les bons à cinq ans, qui a provoqué la plus forte hausse des rendements obligataires depuis avril dernier. Depuis lors, les rendements non seulement n’ont pas baissé, mais ils ont grimpé à des niveaux inégalés depuis des décennies sur la majorité des maturités. Il est important de noter que la probabilité d’un « échec » d’une adjudication de bons du Trésor américain est quasiment nulle. Les primary dealers—les 26 banques et institutions actuellement agréées par la Fed de New York pour intervenir sur ce marché—sont toujours tenus de participer, agissant en tant que souscripteurs pour garantir le bon fonctionnement du marché des bons du Trésor américain, le plus liquide au monde, pesant 30 000 milliards de dollars. Cela permet, en retour, la continuité du fonctionnement du système financier mondial. Des milliers de milliards de dollars de dette, d’actifs et de produits dérivés mondiaux prennent les bons du Trésor américain comme référence. Ceux-ci servent aussi de garantie pour lubrifier les rouages du système financier américain et global, comme dans les opérations de pension, les prêts interbancaires et autres financements. En résumé, tant que les bons du Trésor restent le pilier du système financier mondial, il y aura toujours des acheteurs lors des adjudications. La question demeure, comme toujours, à quel prix ces obligations sont finalement attribuées. Actuellement, le coût d’emprunt sur le marché secondaire a atteint ses niveaux les plus élevés depuis le milieu des années 2000, il est donc logique de penser que le Trésor paiera également des taux élevés sur le marché primaire. Mais, comme l'ont montré les récentes adjudications, un choc négatif reste possible. « Trop gros pour être absorbé par le marché ? » L’adjudication de 70 milliards de dollars de bons à cinq ans du 23 septembre a été la plus préoccupante de ces dernières années. La demande, mesurée par le « bid-to-cover ratio », a été la plus faible depuis neuf ans. Le Trésor a finalement vendu ces obligations à un rendement de 5,033 %, soit plus de 3 points de base au-dessus du rendement marché à la clôture des offres. Trois points de base peuvent sembler insignifiants, mais pour une adjudication à cinq ans, c’est exceptionnel. Il s'agit du plus grand « tail » (écart entre le rendement moyen adjugé et le marché) depuis juin 2022. D’après les analystes de JP Morgan, il faut remonter à 2011 pour retrouver un écart de 3 points pour une telle adjudication, à l’époque de la crise du plafond de la dette qui avait conduit à une dégradation de la note de crédit américaine en août. Aujourd’hui, les craintes liées à la situation budgétaire américaine tendent à faire grimper les coûts d’emprunt à long terme. Ainsi, le marché anticipe que l’administration Trump déplacera progressivement ses besoins de financement massifs sur des maturités intermédiaires ou plus courtes—celles avec un coût moindre. C’est pourquoi l’adjudication des cinq ans d’il y a deux semaines a tellement inquiété. Un « tail » de 3 points n’est pas rare sur les émissions de longue maturité, mais il l’est pour des obligations au « ventre » de la courbe. Si le Trésor devait recourir à des primes plus élevées pour les placer, cela indiquerait de sérieux problèmes. Des « tails » importants peuvent être causés par divers facteurs, comme une volatilité du marché le jour de l’adjudication, ou des inquiétudes fondamentales plus profondes susceptibles d’éroder la demande au fil du temps. Il est souvent difficile de distinguer ces deux dynamiques, qui ne s’excluent pas mutuellement. D’un point de vue plus optimiste, cette inquiétude ne s’est pas encore propagée aux échéances courtes—du moins pas pour l’instant. Les rendements des bons à trois et dix ans ont augmenté, en hausse d’environ 50 points de base par rapport à l’adjudication précédente un mois plus tôt, oscillant respectivement autour de 4,96 % et 5,32 %. Le rendement à trente ans a grimpé de près de 35 points de base, atteignant 5,65 %. Ce niveau paraît assez élevé po
Annuler l'émission de bons du Trésor américain à 20 ans pourrait être contre-productif ? BNP Paribas avertit d'un risque de ventes accrues sur le marché et maintient sa prévision de rendement à 30 ans à 5,8%.
La BNP Paribas avertit que la secrétaire au Trésor des États-Unis, Janet Yellen, devrait résister aux appels à supprimer l’émission d’obligations du Trésor américain à 20 ans. Selon la banque, cette mesure, qui semble viser à réduire le coût du financement à long terme, pourrait produire l’effet inverse : au lieu de maintenir les rendements des obligations à un niveau bas, elle risquerait d’augmenter les coûts d’emprunt et d’affaiblir la liquidité du marché.
Prix des cryptos
Plus
