Nebius(NBIS.US) bumili ng Israeli na startup na Inferize upang palakasin ang AI inference business, maaaring umabot sa $150 milyon ang halaga ng transaksiyon

Napag-alaman mula sa APP ng Pinansyal na Balita na si Zhihui, na ang AI cloud infrastructure service provider na Nebius (NBIS.US) ay inanunsyo ang pag-aakuisisyon sa Israeli AI startup na Inferize, upang higit pang palakasin ang kakayahan nito sa AI inference infrastructure. Nakatuon ang Inferize sa pagbabawas ng idle time ng graphics processing unit (GPU) at pagpapabilis ng deployment ng malalaking AI model. Ayon sa ulat ng Israeli technology media na Calcalist, tinatayang nasa pagitan ng $100 milyon hanggang $150 milyon ang halaga ng transaksiyon, ngunit hindi ibinunyag ng Nebius ang tiyak na detalye ng pananalapi.

Ang sentro ng pag-aakuisisyong ito ay ang pagpapataas ng efficiency ng paggamit ng GPU resources, lalo na sa mabilis na pagbabago ng demand para sa AI inference, upang matulungan ang Nebius na mas mabilis magdala ng compute resources at mabawasan ang idle time ng mamahaling computing equipment.

Nakatutok sa Bottleneck ng AI Inference Efficiency Pababa ng Idle Time ng GPU

Ang pangunahing teknolohiya ng Inferize ay sumosolusyon sa "cold start" problem na nararanasan sa proseso ng deployment ng AI model. Ang cold start ay tumutukoy sa proseso kung saan kailangang i-load ang modelo at i-initialize ang kaugnay na resources bago magsimulang tumanggap ng requests mula sa users ang AI model. Kapag may bagong inference instance na sinimulan, maaaring kailangang maghintay ang GPU hanggang sa matapos ma-load ang model bago magsimulang mag-compute, at lumilitaw dito ang panandaliang pagka-idle ng resources.

Lalo itong nagiging kapansin-pansin kapag biglang tumaas ang demand para sa AI inference. Habang dumarami ang user requests, kailangang mabilis na maglunsad ng karagdagang inference instance ang mga cloud provider. Ngunit kung matagal ang model loading, hindi agarang magagamit ang bagong GPU resources, na makaaapekto sa bilis ng serbisyo at overall compute efficiency.

Nilalayon ng teknolohiya ng Inferize na paikliin itong waiting period upang agad magamit ang bagong inference resources at gawing akma sa real-time demand change ang expansion ng computing power.

Para sa Nebius, nangangahulugan ito na may pag-asang mas magiging flexible ang pagtugon ng kumpanya sa pangangailangan ng customers nang hindi kinakailangang magpanatili ng maraming idling GPU bilang backup, kaya mas mataas ang utilization efficiency ng kasalukuyang infrastructure.

Ayon kay Danila Shtan, Chief Technology Officer ng Nebius, upang maging efficient ang pagtakbo ng AI inference services, hindi lamang kailangan ng mas mabilis na GPU at mga optimized na model, kundi maging ang buong sistema ay dapat marunong tumugon agad sa pagbabago ng demand, kabilang ang mabilis na pagdagdag ng computation capacity kapag dumarami ang customer requests. Binanggit niya na bukod sa teknolohiyang magpapabilis sa prosesong ito, may karanasan din ang Inferize engineering team sa GPU systems.

Plano ng Nebius na isama ang mga engineer ng Inferize sa sarili nitong inference business team at i-integrate ang kaugnay na teknolohiya sa mismong AI inference platform nitong Token Factory, upang mapalakas pa ang abilidad ng platform na tumugon sa customer demand at mapataas ang kakayahan ng infrastructure sa mas maraming tunay na computing workload.

Idinagdag ni Shtan na ang kontribusyon ng Inferize team ay hindi limitado lamang sa panimulang integration ng teknolohiya na ito.

Pababa ng Gastos ng Backup Compute Power Pataas ng Operasyonal na Efficiency ng AI Infrastructure

Ayon kay Guy Bortnikov, Co-founder at CEO ng Inferize, upang laging makapagtugon sa customer demand, karaniwan nang kailangang magpanatili ang cloud provider ng isang tiyak na bilang ng backup GPU resources, at ang mga naka-standby na ito ay nagreresulta rin sa dagdag na gastos. Sinabi niyang ang layunin ng pagtatatag ng Inferize ay upang bawasan ang cost na ito, at sa pagpasok sa Nebius ay agad na maipapatupad ang nasabing teknolohiya sa aktwal na pagpapatakbo ng AI cloud platform.

Sa AI inference business, ang efficiency ng pag-schedule ng compute resources ay tuwirang nakaaapekto sa operation costs ng infrastructure. Dahil mahal ang GPU devices, kung kinakailangang magpanatili ng malaking volume ng idle computing resources para lang masiguradong handa sa demand peaks, maaaring bumaba ang overall returns on investment.

Sa pamamagitan ng pagpapabilis ng model boot time at mas mabilis na pagpasok ng compute power sa operasyon, may potensiyal ang Nebius na mas mapalawak ang serbisyo nang hindi na umaasa nang husto sa backup GPU capacity.

Karapat-dapat ding banggitin na si Bortnikov ay nag-cofound din ng computation infrastructure optimization software company na Granulate. Pangunahing layunin ng kumpanyang ito ang mag-develop ng mga teknolohiya na nagpapataas ng resource running efficiency at na-acquire ng Intel (INTC.US) noong 2022. Ipinapakita ng background na ito na may sapat na karanasan ang team ng Inferize sa larangan ng computation infrastructure optimization.

Sunod-sunod na Pagbili ng AI Technology Companies Patuloy na Pinapalakas ng Nebius ang Inference Platform

Ang acquisition ng Inferize ay isa lamang sa sunod-sunod na serye ng mga acquisition ni Nebius na nakatuon sa AI inference at model optimization. Nauna rito, natapos na ng Nebius ang pagbili ng Eigen AI sa halagang $643 milyon. Kamakailan din ay nakuha ng kumpanya ang AI tech company na Clarifai, ngunit hindi isiniwalat ang detalye ng transaksiyon.

Ipinatutukoy ng mga acquisition na ito na layunin ng Nebius ang higit pang pagpapalakas ng AI inference at model optimization capabilities at pag-perpekto ng AI infrastructure services nito.

Kaiba sa mga infrastructure investment na nakatuon lamang sa compute power para sa AI model training, higit na binibigyang halaga ng AI inference ang efficiency ng aktwal na pagpapatakbo ng model, kabilang ang bilis ng request processing, compute resource scheduling, model deployment, at cost per unit ng compute power.

Habang patuloy na ini-integrate ng Nebius ang mga kaugnay na teknolohiya, lumalawak ang focus ng negosyo nito mula sa simpleng pagbibigay ng GPU compute resources tungo sa pagpapaunlad ng teknolohiya at serbisyo para sa pagpapahusay ng aktwal na running efficiency ng AI models.

Ang pag-aakuisisyong ito ng Inferize ay higit pang magpapalakas sa kakayahan ng Nebius sa dynamic compute scheduling at mabilis na model deployment. Gayunpaman, ang lawak ng magiging epekto ng integrasyon ng teknolohiyang ito sa pagtitipid ng cost at pagtaas ng efficiency ay mananatili pa ring obserbahan batay sa magiging performance ng operasyon sa hinaharap.