Nebius (NBIS.US) adquire startup israelense Inferize para reforçar negócios de inferência em IA; valor da transação pode chegar a US$ 150 milhões

Segundo o aplicativo financeiro Zhihui, a provedora de serviços de infraestrutura em nuvem para IA, Nebius (NBIS.US), anunciou a aquisição da startup israelense de inteligência artificial Inferize, fortalecendo ainda mais sua capacidade de infraestrutura de inferência de IA. A Inferize é especializada em reduzir o tempo ocioso das GPUs e acelerar o processo de implantação de grandes modelos de IA. De acordo com a mídia tecnológica israelense Calcalist, o valor da transação ficou entre 100 milhões e 150 milhões de dólares, embora a Nebius não tenha divulgado os termos financeiros específicos.

O principal objetivo desta aquisição é aumentar a eficiência na utilização dos recursos de GPU, especialmente diante de rápidas mudanças na demanda por inferência de IA, ajudando a Nebius a realocar recursos computacionais de forma mais ágil e a reduzir o tempo ocioso dos dispositivos de computação de alto custo.

Foco nos gargalos de eficiência da inferência de IA e redução do tempo ocioso das GPUs

A principal tecnologia da Inferize visa o problema do "cold start" no processo de implantação de modelos de IA. O cold start ocorre quando um modelo de IA precisa ser carregado e inicializado antes de começar a processar as solicitações dos usuários. Ao iniciar novas instâncias de inferência, a GPU pode ter que aguardar o carregamento do modelo antes de iniciar o processamento, levando a períodos breves de ociosidade dos recursos.

Esse problema é especialmente proeminente quando há picos repentinos na demanda por inferência de IA. Com o aumento dos pedidos dos usuários, os provedores de nuvem precisam iniciar rapidamente novas instâncias de inferência, mas se o carregamento do modelo for demorado, os recursos adicionais de GPU não podem ser imediatamente utilizados, prejudicando a velocidade de resposta do serviço e a eficiência geral do uso do poder computacional.

A tecnologia da Inferize busca reduzir esse tempo de espera, permitindo que mais recursos de inferência entrem em operação mais rapidamente e tornando a expansão do poder de computação mais alinhada às variações reais da demanda.

Para a Nebius, isso significa que a empresa poderá atender de forma mais flexível às demandas dos clientes e aumentar a utilização de sua infraestrutura existente, sem necessidade de manter grandes quantidades de GPUs em estado ocioso como recurso de reserva.

O CTO da Nebius, Danila Shtan, afirmou que para operar serviços de inferência de IA com eficiência não basta contar apenas com GPUs mais rápidas e modelos altamente otimizados; todo o sistema precisa ser capaz de responder rapidamente às mudanças de demanda, incluindo fornecer capacidade computacional adicional rapidamente quando a necessidade do cliente cresce. Ele ressaltou que a Inferize trouxe não só a tecnologia para acelerar esse processo, como também uma equipe de engenharia experiente em sistemas de GPU.

A Nebius planeja incorporar os engenheiros da Inferize em sua equipe de inferência e integrar a tecnologia ao Token Factory, sua plataforma de inferência de IA, para aumentar a capacidade de resposta às demandas dos clientes e permitir que a infraestrutura existente assuma mais tarefas computacionais práticas.

Shtan também declarou que as futuras contribuições da equipe da Inferize não se limitarão apenas à integração inicial da tecnologia mencionada.

Redução dos custos de poder computacional de reserva e aumento da eficiência operacional da infraestrutura de IA

O cofundador e CEO da Inferize, Guy Bortnikov, afirmou que para atender às necessidades dos clientes a qualquer momento, os provedores de nuvem geralmente mantêm uma quantidade significativa de GPUs de reserva, sendo que esses dispositivos em espera representam um custo adicional. Ele ressaltou que o objetivo da criação da Inferize foi reduzir esse custo; e ao se juntar à Nebius, a tecnologia pode ser aplicada diretamente em plataformas de IA em nuvem em operação real.

No negócio de inferência de IA, a eficiência de alocação dos recursos computacionais está diretamente ligada ao custo operacional da infraestrutura. Como os dispositivos de GPU têm preços elevados, se uma empresa tiver que manter grandes quantidades de poder computacional ocioso para responder a picos de demanda potenciais, isso pode afetar o retorno geral do investimento.

Ao reduzir o tempo de inicialização do modelo e acelerar a disponibilização dos recursos de computação, a Nebius espera aumentar a elasticidade do serviço e, ao mesmo tempo, reduzir a dependência da capacidade de GPU de reserva.

Vale destacar que Bortnikov já havia cofundado anteriormente a Granulate, uma empresa de software de otimização de infraestrutura computacional. Esta empresa desenvolve tecnologias para aumentar a eficiência operacional dos recursos de computação e foi adquirida pela Intel (INTC.US) em 2022. Esse histórico demonstra que a equipe da Inferize tem experiência relevante em otimização de infraestrutura computacional.

Sucessivas aquisições de empresas de IA: Nebius continua fortalecendo sua plataforma de inferência

A aquisição da Inferize faz parte de uma série de operações focadas em inferência de IA e otimização de modelos promovidas recentemente pela Nebius. Anteriormente, a Nebius já havia completado a aquisição da Eigen AI por 643 milhões de dólares. Além disso, a empresa também adquiriu recentemente a Clarifai, outra companhia de tecnologia em IA, mas não revelou o valor da transação.

Essas aquisições visam reforçar a capacidade de inferência de IA e a otimização de modelos da Nebius, aprimorando ainda mais seus serviços de infraestrutura de IA.

Diferente dos investimentos em infraestrutura que visam principalmente o poder computacional para o treinamento de modelos de IA, a inferência de IA foca mais na eficiência operacional dos modelos quando estão em uso prático, incluindo a velocidade de processamento de requisições, agendamento de recursos computacionais, implantação de modelos e custo por unidade de poder computacional.

Com a contínua integração dessas tecnologias pela Nebius, sua atuação está se expandindo da simples oferta de recursos computacionais com GPUs para o fornecimento de tecnologias e serviços que potencializam a eficiência operacional dos modelos de IA.

A aquisição da Inferize deverá complementar ainda mais as capacidades técnicas da Nebius em agendamento dinâmico de poder computacional e rápida implantação de modelos. Entretanto, o grau de economia de custos e aumento de eficiência que essa integração proporcionará ainda dependerá do desempenho operacional futuro.