El núcleo de la transición de HBM a una estructura de 8 capas es aumentar el volumen de envíos.

1/ Recientemente, el mercado de HBM está evolucionando hacia la optimización del rendimiento y la economía de diversos sistemas. 2/ NVIDIA tenía previsto utilizar HBM4 de 12 capas apiladas en Rubin y HBM4E de 12 capas apiladas en Rubin Ultra, pero para mitigar los problemas de calor y eficiencia energética en productos de alta velocidad y gran cantidad de capas, está considerando implementar una solución con 8 capas apiladas al mismo tiempo. 3/ También se ha observado que AMD y Google podrían emplear diferentes niveles de HBM en la misma generación de productos, según la carga de trabajo y el rango de precios. Esto parece estar orientado a maximizar el volumen de GPUs entregadas ante un suministro limitado de HBM. 4/ No se debe interpretar esto como una desaceleración de la demanda de HBM. Por el contrario, la relación entre oferta y demanda de HBM es aún más ajustada de lo anticipado. Esto se debe a que, incluso ajustando las especificaciones de HBM, el aumento en el volumen de sistemas despachados compensará la reducción de capacidad de memoria por cada pila. 5/ NVIDIA Rubin Ultra está pasando de su enfoque original en 12Hi para considerar simultáneamente HBM4E de 8Hi, HBM4 de 12Hi y HBM4 de 8Hi; AMD MI455X y Google TPU v8 también están contemplando configuraciones multinivel con 8Hi y 12Hi.