Nebius (NBIS.US) adquiere la startup israelí Inferize para fortalecer su negocio de inferencia de IA; el monto de la transacción podría alcanzar hasta 150 millones de dólares.

Según ha informado la app financiera Zhihui Caijing, el proveedor de servicios de infraestructura en la nube para IA, Nebius (NBIS.US), ha anunciado la adquisición de la startup israelí de inteligencia artificial Inferize, con el objetivo de reforzar aún más sus capacidades de infraestructura para el procesamiento de inferencias de IA. Inferize se especializa en reducir los periodos de inactividad de las GPU y en acelerar el despliegue de grandes modelos de IA. Según estima el medio tecnológico israelí Calcalist, el importe de la transacción se situaría entre los 100 y los 150 millones de dólares, aunque Nebius no ha revelado los detalles financieros concretos.

El núcleo de esta adquisición es aumentar la eficiencia en el uso de los recursos de GPU, especialmente ante cambios rápidos en la demanda de inferencia de IA, ayudando a Nebius a reasignar los recursos de computación de manera más ágil y reducir los tiempos de inactividad de estos costosos equipos de procesamiento.

Apuntando al cuello de botella en la eficiencia de la inferencia de IA: reducción del tiempo de inactividad de las GPU

La tecnología central de Inferize se orienta al problema del "arranque en frío" durante el despliegue de modelos de IA. El arranque en frío hace referencia al proceso de carga e inicialización de recursos necesarios antes de que un modelo de IA pueda comenzar a procesar solicitudes de los usuarios. Cuando se inicia una nueva instancia de inferencia, la GPU podría tener que esperar a que finalice la carga del modelo antes de empezar a operar, generando así breves periodos de inactividad en los recursos.

Este problema se vuelve especialmente notorio cuando la demanda de inferencia de IA aumenta de forma repentina. Ante un auge de solicitudes de usuarios, los proveedores de servicios en la nube deben iniciar rápidamente más instancias de inferencia, pero si la carga de los modelos toma demasiado tiempo, los nuevos recursos GPU no pueden ser utilizados inmediatamente, lo que repercute en la velocidad de respuesta del servicio y la eficiencia general del uso de la capacidad de cómputo.

La tecnología de Inferize está diseñada para acortar dicho periodo de espera, permitiendo que los recursos de inferencia añadidos se pongan en funcionamiento más rápidamente, y así ajustando la ampliación de la capacidad computacional a los cambios reales en la demanda.

Para Nebius, esto supone la posibilidad de satisfacer de forma más flexible las necesidades de los clientes sin tener que mantener a largo plazo un gran número de GPUs inactivas como recurso de reserva, mejorando así el uso de la infraestructura existente.

Danila Shtan, director de tecnología de Nebius, señaló que para operar de manera eficiente servicios de inferencia de IA no solo se requieren GPUs más rápidas y modelos optimizados, sino que todo el sistema debe responder con agilidad a los cambios en la demanda, incluyendo la provisión rápida de capacidad adicional ante un aumento de solicitudes. Destacó que Inferize no solo aporta tecnología para acelerar este proceso, sino también un equipo de ingenieros con gran experiencia en sistemas GPU.

Nebius planea integrar a los ingenieros de Inferize en su equipo de negocios de inferencia y unificar la tecnología en su plataforma de inferencia de IA "Token Factory", para potenciar la capacidad de respuesta a los clientes y permitir que la infraestructura existente asuma cargas computacionales más significativas.

Shtan afirmó, además, que la contribución del equipo de Inferize no se limitará a esta integración inicial de tecnología.

Reducir el coste del poder de cómputo de reserva y aumentar la eficiencia operativa de la infraestructura de IA

Guy Bortnikov, cofundador y CEO de Inferize, explicó que, para hacer frente a las solicitudes de clientes en cualquier momento, los proveedores en la nube suelen mantener un inventario de GPU en espera, lo que implica costes adicionales por capacidad ociosa. Señaló que la razón de ser de Inferize es precisamente la de reducir estos costes, y que unirse a Nebius permitirá que su tecnología se aplique directamente en plataformas de IA en la nube en operación real.

En servicios de inferencia de IA, la eficiencia en la asignación de recursos de cómputo influye directamente en los costes operativos de la infraestructura. Dado el elevado precio de los equipos GPU, si una empresa debe mantener durante largos periodos grandes cantidades de capacidad ociosa para prepararse ante picos de demanda, esto puede afectar el retorno total de la inversión.

Al acortar el tiempo de arranque de los modelos y acelerar la puesta en marcha de los recursos computacionales, Nebius aspira a mejorar la flexibilidad del servicio y reducir su dependencia de la capacidad de GPU de reserva.

Cabe mencionar que, previamente, Bortnikov también cofundó la empresa de software de optimización de infraestructuras de computación Granulate, dedicada principalmente al desarrollo de tecnologías para aumentar la eficiencia en el funcionamiento de recursos de computación, la cual fue adquirida por Intel (INTC.US) en 2022. Esta experiencia demuestra que el equipo de Inferize cuenta con experiencia profesional en la optimización de infraestructuras computacionales.

Adquisiciones continuas de empresas de tecnología en IA: Nebius refuerza su plataforma de inferencia

La adquisición de Inferize es una más de una serie de compras recientes de Nebius en el campo de la inferencia de IA y optimización de modelos. Anteriormente, Nebius ya había completado la adquisición de Eigen AI por un valor de 643 millones de dólares. Además, la compañía adquirió recientemente la empresa de tecnología de IA Clarifai, aunque no reveló el importe de la transacción.

El objetivo de estas adquisiciones es reforzar la capacidad de Nebius en inferencia de IA y optimización de modelos, para seguir mejorando su oferta de infraestructura en IA.

A diferencia de las inversiones tradicionales en infraestructura, enfocadas principalmente en la potencia de cómputo para el entrenamiento de modelos de IA, la inferencia hace hincapié en la eficiencia operativa una vez el modelo se encuentra en uso, incluyendo la velocidad de procesamiento de solicitudes, la asignación de recursos computacionales, el despliegue de modelos y el coste por unidad de capacidad computacional.

A medida que Nebius sigue integrando tecnologías relacionadas, sus operaciones están evolucionando desde la simple provisión de recursos de GPU hacia el desarrollo de tecnologías y servicios enfocados en optimizar la eficiencia operativa real de los modelos de IA.

Esta adquisición de Inferize complementará aún más las capacidades técnicas de Nebius en la asignación dinámica de potencia computacional y el despliegue rápido de modelos. Sin embargo, aún está por verse hasta qué punto la integración de estas tecnologías traerá una reducción significativa de costes y mejoras operativas en el futuro.