Nebius (NBIS.US) mua lại startup Israel Inferize để tăng cường mảng kinh doanh AI suy luận, giá trị giao dịch có thể lên tới 150 triệu USD

Theo ứng dụng tài chính thông minh, Nebius (NBIS.US), nhà cung cấp dịch vụ cơ sở hạ tầng đám mây AI, vừa công bố mua lại Inferize, một công ty khởi nghiệp trí tuệ nhân tạo của Israel, nhằm tăng cường năng lực hạ tầng suy luận AI. Inferize tập trung vào việc giảm thời gian nhàn rỗi của đơn vị xử lý đồ họa (GPU) và tăng tốc độ triển khai các mô hình AI lớn. Theo ước tính của trang công nghệ Israel Calcalist, giá trị thương vụ dao động trong khoảng 100 đến 150 triệu USD, tuy nhiên Nebius không tiết lộ các điều khoản tài chính cụ thể.

Trọng tâm của thương vụ này là nâng cao hiệu suất sử dụng tài nguyên GPU, đặc biệt trong bối cảnh nhu cầu suy luận AI thay đổi nhanh chóng, giúp Nebius phân bổ tài nguyên tính toán linh hoạt, giảm thời gian nhàn rỗi của các thiết bị tính toán đắt đỏ.

Nhắm vào điểm nghẽn hiệu suất suy luận AI, giảm thời gian nhàn rỗi của GPU

Công nghệ cốt lõi của Inferize chủ yếu tập trung giải quyết vấn đề "khởi động lạnh" trong quá trình triển khai mô hình AI. Khởi động lạnh đề cập đến quá trình cần thiết để tải mô hình và khởi tạo các tài nguyên liên quan trước khi mô hình AI có thể bắt đầu xử lý yêu cầu từ người dùng. Khi khởi tạo một phiên suy luận mới, GPU có thể phải chờ đến khi mô hình được tải xong mới có thể chính thức xử lý tính toán, dẫn đến thời gian nhàn rỗi ngắn của tài nguyên.

Vấn đề này càng rõ rệt hơn khi nhu cầu suy luận AI tăng đột biến. Khi số lượng yêu cầu từ người dùng tăng mạnh, các nhà cung cấp dịch vụ đám mây phải khởi động nhanh chóng nhiều phiên suy luận mới, nhưng nếu thời gian tải mô hình quá lâu, tài nguyên GPU bổ sung sẽ chưa thể sử dụng ngay, làm ảnh hưởng đến tốc độ đáp ứng dịch vụ và hiệu suất sử dụng tổng thể của hệ thống tính toán.

Công nghệ của Inferize hướng tới mục tiêu rút ngắn quá trình chờ này, cho phép tài nguyên suy luận bổ sung vận hành nhanh hơn và mở rộng năng lực tính toán sát với diễn biến thực tế của nhu cầu.

Đối với Nebius, điều này đồng nghĩa với việc công ty có thể đáp ứng linh hoạt nhu cầu khách hàng, nâng cao hiệu quả sử dụng hạ tầng có sẵn mà không cần duy trì số lượng GPU nhàn rỗi lớn làm tài nguyên dự phòng trong thời gian dài.

Giám đốc công nghệ của Nebius, ông Danila Shtan cho biết, để vận hành hiệu quả dịch vụ suy luận AI, không chỉ cần GPU tốc độ cao và mô hình tối ưu hóa, mà cả hệ thống còn phải có khả năng phản ứng nhanh chóng trước biến động của nhu cầu, bao gồm khả năng cung ứng thêm năng lực tính toán ngay khi khách hàng cần. Ông nhấn mạnh Inferize không chỉ mang tới công nghệ tăng tốc quá trình này mà còn sở hữu đội ngũ kỹ sư giàu kinh nghiệm về hệ thống GPU.

Nebius dự kiến sẽ tiếp nhận đội ngũ kỹ sư của Inferize vào bộ phận suy luận và tích hợp công nghệ liên quan vào nền tảng suy luận AI của mình – Token Factory, nhằm nâng cao khả năng đáp ứng nhu cầu khách hàng, đồng thời khai thác tối đa hiệu suất của cơ sở hạ tầng sẵn có.

Ông Shtan cũng cho biết, đóng góp của đội ngũ Inferize trong tương lai sẽ không chỉ dừng lại ở giai đoạn tích hợp công nghệ ban đầu này.

Giảm chi phí dự phòng năng lực tính toán, nâng cao hiệu quả vận hành hạ tầng AI

Nhà sáng lập kiêm giám đốc điều hành Inferize, Guy Bortnikov cho biết, để sẵn sàng đáp ứng nhu cầu khách hàng, các nhà cung cấp dịch vụ đám mây thường phải duy trì một lượng GPU dự phòng nhất định, và những thiết bị tính toán ở trạng thái chờ sẵn này chính là chi phí bổ sung. Ông chỉ ra rằng, mục tiêu khi lập ra Inferize chính là để giảm chi phí này, và việc gia nhập Nebius sẽ giúp công nghệ của Inferize được ứng dụng trực tiếp vào vận hành nền tảng AI đám mây thực tế.

Trong hoạt động suy luận AI, hiệu suất điều phối tài nguyên tính toán tác động trực tiếp đến chi phí vận hành hạ tầng. Do giá thành GPU rất cao, nếu doanh nghiệp buộc phải duy trì lượng lớn năng lực tính toán nhàn rỗi trong thời gian dài nhằm sẵn sàng cho các đợt nhu cầu tăng đột biến, tỷ suất hoàn vốn tổng thể có thể bị ảnh hưởng.

Bằng cách rút ngắn thời gian khởi động mô hình, tăng tốc độ huy động tài nguyên tính toán vào vận hành, Nebius kỳ vọng không chỉ nâng cao khả năng đáp ứng linh hoạt mà còn giảm sự phụ thuộc vào dung lượng GPU dự phòng.

Đáng chú ý là, ông Bortnikov trước đây từng đồng sáng lập công ty phần mềm tối ưu hóa hạ tầng tính toán Granulate. Doanh nghiệp này chuyên phát triển công nghệ nâng cao hiệu suất vận hành tài nguyên tính toán, và đã được Intel (INTC.US) mua lại năm 2022. Điều này cho thấy đội ngũ Inferize có kinh nghiệm liên quan trong lĩnh vực tối ưu hóa hạ tầng tính toán.

Liên tiếp mua lại các công ty công nghệ AI, Nebius tiếp tục củng cố nền tảng suy luận

Thương vụ mua lại Inferize là một trong chuỗi các thương vụ M&A tập trung vào lĩnh vực suy luận AI và tối ưu mô hình gần đây của Nebius. Trước đó, Nebius đã hoàn tất việc mua lại Eigen AI với giá trị 643 triệu USD. Ngoài ra, công ty này cũng gần đây đã mua lại công ty công nghệ AI Clarifai, nhưng chưa tiết lộ giá trị thương vụ.

Các thương vụ này đều hướng tới mục tiêu tăng cường năng lực suy luận AI và tối ưu mô hình của Nebius, hoàn thiện hơn nữa dịch vụ hạ tầng AI của doanh nghiệp.

Khác với các khoản đầu tư hạ tầng truyền thống thiên về năng lực tính toán để huấn luyện mô hình AI, dịch vụ suy luận AI chú trọng hơn đến hiệu quả vận hành mô hình khi được ứng dụng thực tế—bao gồm tốc độ xử lý yêu cầu, điều phối tài nguyên tính toán, triển khai mô hình, và chi phí năng lực tính toán trên đơn vị vận hành thực tế.

Với việc liên tục tích hợp các công nghệ liên quan, Nebius đang mở rộng phạm vi kinh doanh từ cung cấp tài nguyên GPU tính toán sang cung cấp giải pháp công nghệ và dịch vụ nhằm gia tăng hiệu suất vận hành thực tế của mô hình AI.

Thương vụ mua lại Inferize lần này sẽ giúp Nebius bổ sung thêm năng lực kỹ thuật về điều phối động tài nguyên tính toán và triển khai nhanh mô hình. Tuy nhiên, vẫn còn phải chờ quá trình vận hành thực tế xác minh mức tiết kiệm chi phí và nâng cao hiệu quả do tích hợp công nghệ mang lại.