La IA de aprendizaje continuo sigue ampliando el mercado de semiconductores de almacenamiento.

A pesar del discurso sobre la desaceleración de la IA, la IA de aprendizaje continuo sigue ampliando el mercado de semiconductores de memoria1/ A pesar de que recientemente han surgido comentarios acerca de que el desarrollo de la IA debería desacelerarse, la tecnología de aprendizaje continuo, que permite a la inteligencia artificial aprender información nueva de forma ininterrumpida, se está convirtiendo en un nuevo motor de crecimiento para el mercado de semiconductores de memoria.2/ El banco de inversión global Citi estima que el año que viene la demanda mundial de bits de HBM aumentará un 62% respecto a este año, alcanzando los 75,2 mil millones de Gb.3/ Citi sitúa el aprendizaje continuo como una de las principales razones del aumento de la demanda de HBM, y analiza que, a medida que el entrenamiento y la inferencia se realizan repetidamente, no solo se incrementa la demanda de HBM, sino también la de DRAM para servidores y SSD empresariales.4/ Actualmente, la mayoría de las IA generativas utilizan un método de entrenamiento previo y luego responden, sin incorporar automáticamente nueva información en su conocimiento a largo plazo, lo que genera problemas de eficiencia.5/ En el aprendizaje continuo, la línea entre el entrenamiento y la inferencia se vuelve más difusa; el objetivo es que la IA pueda aprender nuevos datos y experiencias durante la prestación del servicio, combinándolos con el conocimiento existente.6/ Mientras continúa aprendiendo nueva información, también debe acceder a una gran cantidad de datos existentes, por lo que se requiere una mayor capacidad de almacenamiento; además de la HBM, el uso simultáneo de DRAM para servidores y eSSD basados en NAND también se vuelve importante.7/ Dado que en el proceso de inferencia también se produce aprendizaje, solo con el ancho de banda no se puede resolver el cuello de botella, por lo que la demanda de tecnologías como PIM, que realizan cálculos cerca de la memoria, también podría aumentar.8/ Samsung Electronics ha propuesto el zHBM, que apila HBM directamente sobre el acelerador de IA, mientras que SK hynix ha presentado estructuras como PIM, SALT-KV y HBF en un intento de superar las limitaciones de la estructura actual de GPU-HBM.