Morgan Stanley: Niedobór pamięci AI potrwa przez kilka lat, trzy główne ścieżki przełamania, pamięć masowa i heterogeniczna moc obliczeniowa zyskują strukturalne szanse

Aplikacja Finansowa Zhihui dowiedziała się, że Morgan Stanley opublikował raport na temat branży półprzewodników, w którym wskazano, że niedobory pamięci DRAM będą trwać przez cały obecny cykl rozwoju AI, a ekspansja mocy obliczeniowej AI nie będzie czekać na budowę nowych fabryk wafli krzemowych. Branża omija ograniczenia pamięci poprzez trzy główne ścieżki technologiczne: ograniczanie specyfikacji sprzętu, rozdzielanie architektury inferencji oraz puli pamięci CXL, kontynuując rozbudowę mocy obliczeniowej w warunkach ograniczonej podaży. Firma pozostaje pozytywna wobec liderów rynku pamięci, takich jak Micron (MU.US) i Sandisk (SNDK.US), a także dostrzega dodatkowe możliwości w obszarze CXL połączeń i heterogenicznej inferencji, polecając Astera Labs (ALAB.US), Marvell (MRVL.US), Cerebras (CBRS.US) oraz Nvidia (NVDA.US).

Morgan Stanley podkreśla, że obecny niedobór pamięci AI to nie chwilowe zakłócenie, lecz strukturalna sprzeczność, gdzie wzrost wydajności mocy obliczeniowej znacznie przewyższa tempo podaży pamięci. Wielkość zaawansowanych modeli rośnie dwukrotnie co sześć miesięcy, okno kontekstowe czołowych modeli zwiększa się rocznie o 5-6 razy, a wzrastające zapotrzebowanie na równoczesną inferencję powoduje eksplozję zapotrzebowania na pojemność i przepustowość pamięci. Cykle budowy fabryk DRAM trwają kilka lat, elastyczność podaży jest wyjątkowo niska, a niedobory utrzymają się przez kilka lat. Dyrektor generalny Nvidia, Jensen Huang, również publicznie stwierdził, że branża musi zmienić swoje podejście i stawić czoła ograniczeniom pamięci poprzez innowacje architektoniczne, a nie po prostu czekać na ekspansję zdolności produkcyjnych.

W obliczu napiętej podaży HBM i pamięci głównej, najprostszą reakcją branży jest selektywne obniżanie specyfikacji pamięci pojedynczych urządzeń (De-speccing). Na przykładzie architektury Rubin Nvidia, pojemność LPDDR5 na pojedynczej maszynie została obniżona z 54TB do 28TB, pojemność HBM na pojedynczym GPU z 288GB do 192GB, a obniżenie wysokości stosów pamięci zwiększa liczbę dostarczanych urządzeń. Morgan Stanley wskazuje, że obniżenie specyfikacji nie eliminuje wąskiego gardła pamięci, lecz przenosi presję pomiędzy warstwami pamięci: po ograniczeniu szybkiej, lokalnej pamięci, dane niebędące aktywnie używane (np. KV cache) trafiają do pamięci NAND, a interakcje między GPU rosną, co podnosi zapotrzebowanie na przepustowość sieciową. W istocie branża uzupełnia niedobór pamięci o dużej przepustowości szybszym połączeniem sieciowym i tańszymi zasobami magazynowymi.

Drugą drogą przezwyciężenia problemu jest rozdzielanie architektury inferencyjnej (Disaggregation). Inferencja AI składa się z dwóch wyraźnie różnych etapów: prefill (przedwypełnienie), który jest intensywny pod względem mocy obliczeniowej, oraz decode (dekodowanie), mocno zależnego od przepustowości pamięci. Tradycyjne architektury używały jednego akceleratora do obsługi obu etapów, co prowadzi do niskiej efektywności wykorzystania zasobów. Obecnie branża szybko przechodzi na heterogeniczną inferencję, rozdzielając oba etapy na różne urządzenia: prefill obsługiwany przez ogólne GPU, natomiast decode przez specjalizowane chipy akceleracyjne wyposażone w dużą pojemność SRAM na chipie.

Typowymi przykładami są silnik Cerebras na poziomie wafla krzemowego oraz LPU Groq, przejęty przez Nvidia, oba zapewniają znacznie wyższą efektywność przepustowości pamięci w etapie decode niż tradycyjne GPU. Morgan Stanley uważa, że heterogeniczna inferencja będzie kluczowym kierunkiem ewolucji infrastruktury AI, a wyspecjalizowani dostawcy rozwiązań dla etapu decode uzyskają bezpośrednie nowe możliwości rynkowe.

Trzecia ścieżka to rekonstrukcja systemów pamięci za pomocą technologii CXL. CXL (Compute Express Link) umożliwia rozszerzenie, współdzielenie i tworzenie puli pamięci za pomocą szybkich połączeń, dzięki czemu pamięć nie jest już powiązana z jednym procesorem, stając się kluczową technologią przełamującą ograniczenia pojemności pamięci. Morgan Stanley szacuje, że zapotrzebowanie AI sprawi, iż rynek CXL i powiązanych dodatkowych chipów pamięci osiągnie wartość ok. 6 miliardów dolarów do 2030 roku, znacznie przewyższając dotychczasowy rynek rozbudowy pamięci CPU. Na wartość tej technologii składa się budowa wielowarstwowej architektury pamięci: najczęściej używane dane pozostają w HBM, dane o mniejszej częstotliwości trafiają do puli pamięci CXL, a rzadkie, zimne dane ulegają przesunięciu do NAND, co pozwala dopasować koszt do częstotliwości dostępu.

Główne zalecenia inwestycyjne: Morgan Stanley potwierdza trzy kierunki działania: po pierwsze, nadal przeważać Micron i Sandisk, obniżanie specyfikacji wynika z niedoborów podaży, a nie słabnącego popytu, zapotrzebowanie na pamięć AI będzie długoterminowo rosnąć, a luka podaży będzie dalej absorbowana przez ekspansję mocy produkcyjnych; po drugie, rozwijać pozycję w liderach CXL i scale-up połączeń sieciowych: Astera Labs i Marvell; po trzecie, zwracać uwagę na beneficjentów heterogenicznej inferencji: Cerebras oraz Nvidia, która poprzez przejęcie Groq udoskonala swoją heterogeniczną ofertę.

Ostrzeżenie dotyczące ryzyka: tempo wzrostu zapotrzebowania na moc obliczeniową AI niższe niż oczekiwano; opóźnienie wdrożenia technologii CXL w stosunku do przewidywań; ekspansja zdolności produkcyjnych pamięci przekroczy przewidywania.