Eksekutif Dell: "AI Perwakilan" kali ini berbeda, kekurangan komponen utama (terutama memori dan HDD) mungkin akan berlangsung lebih dari 5 tahun

Agent AI sedang mengubah logika dasar dari siklus perangkat keras tradisional, dan juga mungkin menyebabkan tekanan pasokan infrastruktur berubah dari fluktuasi jangka pendek menjadi kendala struktural yang berlangsung selama bertahun-tahun.

COO Dell Technologies, Jeff Clarke, dalam pertemuan terbaru dengan Morgan Stanley menyatakan, Agent AI memiliki perbedaan yang jelas dibandingkan siklus perangkat keras sebelumnya. Jika beban kerja AI terkait terus tumbuh, kekurangan pasokan komponen utama bisa bertahan lebih dari lima tahun, di mana memori dan HDD adalah titik yang paling ia khawatirkan saat ini. Dibandingkan dengan tekanan pasokan perangkat keras yang biasanya hanya bertahan beberapa kuartal, peningkatan permintaan kali ini bisa menyebabkan kesenjangan pasokan-permintaan jangka panjang.

Morgan Stanley setelah pertemuan tersebut menilai ulang siklus infrastruktur AI saat ini. Para analis menunjukkan bahwa delapan siklus boom-bust perangkat keras dalam 40 tahun terakhir lebih banyak dipicu oleh pembaruan perangkat dan fluktuasi belanja modal, sedangkan variabel kunci dari siklus kali ini adalah apakah beban kerja AI dapat terus berkembang. Dengan kata lain, yang ditekankan oleh eksekutif Dell bukanlah sekedar siklus restocking perangkat keras biasa, tapi ekspansi infrastruktur jangka panjang yang mungkin dipicu oleh pertumbuhan permintaan Agent AI.

Agent AI Menata Ulang Logika Permintaan Infrastruktur

Laporan tersebut menunjukkan bahwa Clarke menganggap, siklus AI kali ini berbeda secara mendasar dengan siklus boom-bust perangkat keras beberapa dekade terakhir. Delapan siklus perangkat keras masa lalu—mencakup server, storage, PC, dan sebagainya—terutama didorong oleh perubahan penetrasi perangkat dan siklus pembaruan, permintaan naik turun sesuai laju pembaruan, namun skala pasar perangkat keras itu sendiri tidak benar-benar mengalami ekspansi besar.

Sebagai contoh permintaan PC saat pandemi, rasio manusia-komputer sempat meningkat singkat, namun setelah masyarakat kembali normal, permintaan PC pun menurun lagi; skala pasar sebelum dan sesudah pandemi tidak berubah secara substansial. Logika Agent AI berbeda. Clarke menilai, Agent AI sedang memutus hubungan output kognitif dengan kebutuhan tenaga kerja, jadi perusahaan dapat menyelesaikan jauh lebih banyak pekerjaan tanpa harus menambah orang, sehingga terjadi peningkatan produktivitas 10 bahkan 100 kali lipat.

Dalam proses ini, AI tidak lagi sekadar membantu manusia menyelesaikan tugas, melainkan juga bertindak sebagai "alat produktivitas" yang secara terus-menerus mengonsumsi sumber daya komputasi. Kenaikan produktivitas ini akan mendorong semakin banyak perusahaan, dari besar hingga kecil, untuk mulai bertransformasi ke AI, memperluas total pasar alamatable (TAM) infrastruktur secara berkelanjutan.

Dell memperkirakan, pada 2030 kapasitas komputasi pusat data akan meningkat 200 gigawatt, dan kemampuan ZettaFLOPS akan tumbuh 5 kali lipat hingga mencapai 830, sementara pertumbuhan token inferensi akan bersifat eksponensial. Jumlah token yang dibutuhkan Agent AI untuk menyelesaikan satu unit pekerjaan jauh lebih besar daripada chatbot dasar, dan Clarke memperkirakan, pada 2030 volume token inferensi akan tumbuh 87 kali lipat.

Komputasi Awan dan Penyebaran Lokal Bukan Permainan Zero-Sum

Pertanyaan inti pasar terkait siklus infrastruktur AI kali ini adalah: apakah lonjakan kebutuhan token akan bermuara ke platform cloud, bukannya infrastruktur lokal?

Penilaian Clarke adalah, Beban kerja Agent AI akan diimplementasikan secara hibrida. Perusahaan akan terus menyesuaikan lokasi menjalankan beban kerja inferensi—antara cloud publik dan lingkungan lokal—berdasarkan kebutuhan keamanan dan efisiensi biaya.

Clarke mencontohkan Dell: perusahaan men-deploy beban kerja konten di cloud publik, tapi tidak memindahkan kode sumber dan data telemetri kepemilikan keluar dari fasilitas internal mereka. Artinya, beban kerja AI tidak memiliki jalur penyebaran tunggal; infrastruktur lokal tetap akan menampung sebagian kebutuhan komputasi yang terus bertumbuh.

Pada kerangka ini, pertumbuhan konsumsi token yang eksponensial tidak selalu berarti muncul hubungan zero-sum antara cloud dan infrastruktur lokal. Clarke menilai, maraknya model open source juga akan makin mendukung investasi infrastruktur lokal, karena perusahaan bisa mengoptimalkan hasil model di lingkungan lokal untuk efisiensi biaya.

Pengiriman Server Menurun, Tak Ubah Logika Kenaikan Permintaan Jangka Panjang

Saat ini pengiriman server tradisional masih mengalami penurunan yoy, yang tampak kontradiktif dengan ledakan pertumbuhan token inferensi. Penjelasan Clarke adalah, densitas performa server yang meningkat pesat sedang menekan jumlah perangkat dikirim ke pasar.

Server Dell generasi ke-17/18 mampu menggantikan hingga 13 server generasi ke-14 tradisional, sehingga meskipun pengiriman server menurun dalam jangka pendek, nilai dan kapasitas angkut tiap perangkat tetap naik.

Seiring data center secara bertahap merampungkan rekonstruksi arsitektur berorientasi komputasi akselerasi, dan popularisasi Agent AI makin menarik permintaan server CPU, pengiriman server diperkirakan pada akhirnya bisa kembali tumbuh. Clarke bahkan menyatakan, jika token inferensi dalam lima tahun benar-benar tumbuh 87 kali lipat, pengiriman server tradisional pun bisa tumbuh secara eksponensial.

Penyimpanan data juga akan terdorong oleh Agent AI. Setiap operasi yang dilakukan Agent AI—termasuk memori, artefak, dan lain-lain—terus menghasilkan kebutuhan penyimpanan data; dan dengan aplikasi KV Cache berskala besar, kebutuhan kapasitas penyimpanan juga akan meningkat.

Kekurangan Pasokan Mungkin Jadi Kendala Struktural Lebih dari 5 Tahun

Dibandingkan dengan ekonomi makro, konflik geopolitik, pembangunan berlebihan pusat data, dan kekurangan listrik, Clarke menempatkan isu pasokan sebagai kekhawatiran terbesar saat ini, bahkan menggambarkan lingkungan pasokan saat ini dengan istilah "kita berada di negeri dongeng (We're in neverland)".

Morgan Stanley menyatakan, siklus pasokan komoditas biasanya berlangsung 2 hingga 4 kuartal, terutama dipengaruhi siklus pembaruan perangkat keras dan keputusan sisi pemasok. Tetapi Clarke berpendapat, jika logika pertumbuhan gigawatt dan token inferensi diterima, maka memori dan HDD tak lagi hanya mengalami siklus jangka pendek seperti biasanya.

Karena itu, Dell saat ini beroperasi dengan asumsi dasar kemungkinan kekurangan komponen utama yang bertahan selama bertahun-tahun, dengan fokus pada memori dan HDD. Dengan kata lain, risiko inti dari tekanan pasokan kali ini bukan kekurangan sementara, tapi setelah permintaan AI tumbuh berkelanjutan, suplai baru bisa mengejar bertahun-tahun kemudian.

Clarke juga menyampaikan, Dell lebih unggul dalam manajemen pasokan dibanding kompetitor, dan keunggulan ini sedang diterjemahkan menjadi peningkatan pangsa pasar di segmen server, storage, dan PC.

Pelebaran Marjin Laba Didukung Perubahan Struktur Supply-Demand

Kekurangan komponen utama yang terus menerus juga sedang mengubah lingkungan penetapan harga di industri infrastruktur.

Sebelumnya, Morgan Stanley mengaitkan ekspansi marjin kotor bisnis server dan storage dengan fenomena "profit stacking", yaitu ketika kenaikan biaya komponen seperti memori, perusahaan menambahkan ruang profit lagi di harga jual. Clarke menawarkan penjelasan lain.

Dia mengakui, marjin di server dan storage memang melebar untuk produk sejenis, namun ia menyebut dua faktor struktural: Pertama, saat pasokan terbatas, perusahaan akan mengalokasikan sumber daya langka untuk produk dengan marjin tertinggi; kedua, ketika pasar infrastruktur terus meluas, tekanan persaingan merebut pelanggan baru menurun, sehingga tak perlu memangkas harga demi akuisisi.

Maka itu, kenaikan marjin bukan semata keuntungan sementara dari mismatch supply-demand, tapi juga mencerminkan berubahnya dasar penetapan harga industri ketika permintaan infrastruktur terus berkembang.

Jika pertumbuhan beban kerja dari Agent AI bisa terealisasi berkelanjutan, variabel utama dari siklus infrastruktur AI akan beralih dari sekadar "pembaruan perangkat" menjadi "permintaan baru". Ini berarti, pertumbuhan kapasitas, server, dan storage bisa berlangsung lebih lama, sedangkan kendala pasokan komponen utama seperti memori dan HDD bisa berubah dari siklus jangka pendek menjadi masalah struktural bertahun-tahun.