Apa arti Meta Muse untuk GPU dan CPU?

Dengan dirilisnya agen AI pribadi seperti Meta Muse, AI sedang berkembang dari chatbot yang bersifat responsif pasif menjadi agen yang dapat beroperasi secara mandiri selama 24 jam, yang kemungkinan akan meningkatkan konsumsi CPU, GPU, memori, dan infrastruktur jaringan.

Menurut laporan riset terbaru Citi pada 6 Oktober, aplikasi agen seperti Meta Muse sedang mendorong ekspektasi pasar perangkat keras komputasi menuju level baru. Bank tersebut memperkirakan, pada tahun 2030, total ukuran pasar potensial (TAM) CPU global akan berkembang dari 29 miliar dolar AS pada tahun 2025 menjadi 300 miliar dolar AS, dengan tingkat pertumbuhan tahunan majemuk (CAGR) hingga 60%.

Di sisi GPU, agen juga membawa peningkatan permintaan struktural. Bank tersebut memperkirakan, jika Meta Muse mencapai 100 juta pengguna aktif harian, akan membutuhkan sekitar 200.000 hingga 390.000 GPU kelas Blackwell, yang dapat menghasilkan pendapatan satu kali untuk Nvidia sebesar 7 miliar hingga 19 miliar dolar AS.

Tren ini secara langsung menguntungkan pemasok daya komputasi inti. Bank tersebut menunjukkan bahwa karena Meta merupakan salah satu pelanggan terbesar bisnis server AMD, AMD akan menjadi penerima manfaat utama dari kebangkitan CPU, dan target harga dinaikkan menjadi 800 dolar AS; sementara itu, Nvidia juga akan terus diuntungkan oleh lonjakan permintaan GPU.

Bangkitnya Agen, CPU Menjadi Kendala Baru

Sebelum ledakan AI berbasis agen, CPU terutama terbatas untuk beban kerja tradisional dan berfungsi sebagai Head Node untuk aplikasi AI. Dalam Head Node, CPU hanya bertanggung jawab untuk "mengelola", mengirim permintaan pengguna ke GPU dan mengembalikan hasil, sementara perhitungan matriks berat dan inferensi ditangani GPU.

Namun, agen mengubah pembagian kerja ini. Citi dalam laporannya menunjukkan :"Dibandingkan chatbot tradisional, kami percaya AI berbasis agen adalah pendorong potensial pertumbuhan permintaan komputasi secara eksponensial." Agen perlu menangani orkestra, siklus inferensi, pemrosesan data, dan komponen keamanan—ini menjadikan CPU sebagai kendala baru.

Seiring AI beralih dari pelatihan model ke inferensi, lalu ke aliran kerja mandiri berbasis agen, rasio CPU dan GPU berubah secara signifikan. Pada tahap pelatihan model, rasionya adalah 1:8; pada inferensi menjadi 1:4; sementara pada AI berbasis agen, rasio ini terus berkembang menuju 1:1 bahkan mungkin lebih tinggi. Bank tersebut memperkirakan, pada tahun 2030, CPU yang didedikasikan untuk agen akan tumbuh dengan CAGR 247%, dan akan menyumbang 52% dari keseluruhan pasar CPU.

Neraca Daya Komputasi GPU Meta Muse

Meta Muse adalah agen AI konsumen pertama yang diluncurkan pada skala jaringan sosial sebenarnya, dan jejak komputasinya menjadi salah satu variabel terpenting dalam infrastruktur AI saat ini. Berbeda dari chatbot standar, Muse beroperasi terus-menerus sebagai agen mandiri, sehingga secara logis meningkatkan konsumsi GPU secara signifikan.

Citi telah membangun model permintaan GPU dari bawah ke atas. Dalam skenario dasar, diasumsikan pengguna tipikal melakukan 4 permintaan sederhana dan 12 tugas agen (seperti mencari restoran, memeriksa kalender, serta menyusun undangan) setiap hari, dan setiap tugas agen melibatkan sekitar 8 pemanggilan model. Karena model tidak memiliki memori antar panggilan, ia harus membaca ulang konteks percakapan yang terus bertambah setiap kali.

Berdasarkan hal tersebut, bank tersebut memperkirakan setiap pengguna Muse membutuhkan sekitar 0,0020 GPU kelas GB200. Singkatnya, satu GPU hanya dapat melayani sekitar 500 pengguna. Bank tersebut menekankan: "Agen secara struktural merupakan beban kerja inferensi yang lebih berat daripada chatbot." Dalam kerangka yang sama, kapasitas GPU yang dibutuhkan pengguna chatbot hanya 12,5% hingga 25% dari pengguna agen.

Dampak Berantai pada Memori dan Jaringan

Alur kerja agen tidak hanya menuntut lebih tinggi pada chip logika, tetapi juga menyebabkan dampak berantai pada memori dan jaringan. Dari sisi memori, CPU memiliki tingkat ketergantungan tinggi terhadap LP, DDR, dan SSD. Micron baru-baru ini menunjukkan bahwa alur kerja agen seperti yang diwakili Meta Muse semakin memberikan nilai bagi konsumen, sementara CPU memberikan tekanan pembatasan lebih besar pada DRAM.

Di sisi jaringan, AI berbasis agen secara nyata meningkatkan lalu lintas jaringan. Pihak manajemen Nvidia dalam komunikasi dengan Citi mengatakan: "Agen dapat beroperasi selama berjam-jam atau tanpa henti... yang pada akhirnya mendorong menghasilkan lebih banyak Token dalam beban kerja konsumen dan perusahaan."

Operasi berkelanjutan ini berarti semakin banyak infrastruktur yang diakses oleh agen, bukan manusia. Ini mendorong pertumbuhan lalu lintas 'utara-selatan' di dalam pusat data (seperti akses penyimpanan, keamanan, konfigurasi dan layanan lainnya), sehingga menciptakan peluang akselerasi baru untuk penggunaan DPU (seperti BlueField 4) dan Ethernet Spectrum-X.