AI o ciągłym uczeniu się nadal rozszerza rynek półprzewodników pamięci.

Mimo pojawienia się głosów o spowolnieniu rozwoju AI, nieustannie ucząca się sztuczna inteligencja nadal napędza rozwój rynku półprzewodników pamięci masowej1/ Pomimo niedawnych opinii sugerujących konieczność spowolnienia tempa rozwoju AI, technologia ciągłego uczenia się przez sztuczną inteligencję, która umożliwia jej nieprzerwane przyswajanie nowych informacji, staje się nowym motorem wzrostu rynku półprzewodników pamięci masowej.2/ Globalny bank inwestycyjny Citi prognozuje, że w przyszłym roku światowe zapotrzebowanie na HBM osiągnie 75,2 miliarda Gb, co oznacza wzrost o 62% w porównaniu z rokiem bieżącym.3/ Citi wymienia ciągłe uczenie się jako jeden z głównych powodów gwałtownego wzrostu zapotrzebowania na HBM oraz ocenia, że w miarę powtarzania procesów treningowych i inferencyjnych równolegle wzrośnie również zapotrzebowanie na DRAM serwerowe i przedsiębiorcze SSD.4/ Obecnie większość generatywnych AI wykorzystuje metodę opartą na wcześniejszym treningu i późniejszym udzielaniu odpowiedzi – nowe informacje nie są automatycznie włączane do długoterminowej wiedzy, co prowadzi do problemów z wydajnością.5/ W przypadku ciągłego uczenia się granica między treningiem a inferencją staje się płynna – celem jest umożliwienie AI uczenia się nowych danych i doświadczeń podczas świadczenia usług oraz integrowania ich z istniejącą wiedzą.6/ Podczas nieustannego przyswajania nowych informacji konieczny jest również dostęp do ogromnych zbiorów dotychczasowych danych – dlatego potrzeba większej pojemności pamięci, a poza HBM ważne staje się jednoczesne wykorzystanie serwerowego DRAM i opartych na NAND eSSD.7/ Ponieważ uczenie zachodzi także podczas procesu inferencji, sama przepustowość nie rozwiązuje problemu wąskich gardeł, przez co może wzrosnąć zapotrzebowanie na technologie obliczeniowe bliskie pamięci, takie jak PIM.8/ Samsung Electronics zaproponował zHBM, czyli bezpośrednie piętrowanie HBM na akceleratorze AI, natomiast SK hynix przedstawił takie rozwiązania jak PIM, SALT-KV oraz architektura HBF – wszystkie mające na celu przełamanie ograniczeń obecnej architektury GPU-HBM.