Ang AI na mga intelligent agent ay nagpasikat sa Mac! Ang Apple(AAPL.US) ay sumabak sa labanan para sa AI compute budget, sumusuong sa larangan ng AI infrastructure

Nalalaman ng APP ng Pananalapi ng Karunungan na kamakailan, sa gitna ng malawakang pagbabago ng estratehiya patungo sa AI at mga mamahaling foldable screen iPhone, nagsimula ang paghahatid ng mga bagong desktop computer ng higanteng US consumer electronics na Apple (AAPL.US) sa US East Time noong Martes. Ipinakita ng mga executive ng kumpanya ang isang kakaibang ngunit napaka-kaakit-akit na dahilan sa mga malalaking business buyers: Mas mura ang pagbili ng mga high-performance na computer na ito kaysa ang magrenta ng malaking AI data center.

Ayon sa impormasyon, ang bagong-upgrade na Mac mini at Mac Studio series ng desktop computer ng Apple ay kaya nang magsagawa ng ilang komplikadong gawain sa AI/AI inference workloads sa lokal na makina, na may presyo halos $20,000. Makikitunggali ito ng harapan sa high-performance workstation GPU ng Nvidia (NVDA.US), gayundin sa mga bagong AI-capable desktop computer ng Microsoft (MSFT.US), HP (HPQ.US), at Dell (DELL.US). Inaasahan na magiging sentro ng atensyon ang mga bagong makinang ito sa Windows event ng Microsoft na gaganapin sa San Francisco sa susunod na buwan.

Bukas ang bagong market ng AI agent para sa Mac, na kinukuha ang kakayahan ng lokal na makina para sa tuloy-tuloy na pagganap ng mga gawain. Ang agent workflow na kinakatawan ng OpenClaw ay paulit-ulit na nagpapatakbo ng model calls, pagkuha ng files, pagpapatakbo ng code, mga galaw sa browser, at pagsuri ng resulta, kaya't nagiging platform ng tuloy-tuloy na gawain ang computer mula sa pagiging terminal na hinihintay lang ang aksyon ng user. Kamakailang sumikat sa buong mundo ang Muse at Astra, na walang duda ay nagpalawak pa ng saklaw ng automation ng kumplikadong mga gawain; mula sa engineering at logical business deduction, inaasahan itong magdaragdag ng demand ng user para sa locally-deployed, energy-efficient, at madaling i-deploy na computing device. Lalo na't kayang tumanggap ng Apple Mac series ng local execution tool, pribadong data processing, at open model inference, at makipag-collaborate sa cloud model.

Nguni't dapat tandaan, ang 'mas mababang gastos' ng Apple Mac-dominated desktop system ay hindi nangangahulugas na 'maaaring tumbasan ng computing ability/capacity ang buong AI GPU data center.' Mula sa economic deduction, magtatagumpay lang ang cost-reduction ni Apple kung—maabot ng local AI model system ang nais na task quality at response speed, at ang matitipid sa cloud services mula sa tuloy-tuloy na paggamit ay mas mataas kaysa sa depreciation ng device, kuryente, at maintenance cost.

Ang Mac mismo ay umaasa din sa integrated GPU ng Apple Silicon para magpatakbo ng model computation, kung saan ang bentahe nito ay unified memory na naglalagay ng CPU at GPU sa malaki at shared memory pool, nagpapababa ng data copying, at pwedeng paglagyan ng model weights at KV Cache. Sa low-concurrency, word-by-word decoding stage ng large model, kadalasan ay memory bandwidth ang limitasyon, kaya't "malaking memory capacity + mataas na bandwidth + mababang power consumption," kasama ang quantization at MLX software optimization, ay nagpapahintulot na magpatakbo ng mga angkop na local model economically. Lalo na para sa mga individual o small team na tuloy-tuloy gumamit ng code assistant, document processing, at internal agent.

Lalo na't nabanggit ng Apple management ang "apat na Mac kayang magpatakbo ng trillion-parameter model," na patunay ng kakayahan ng model na maisalang at mag-inference, bagaman hindi ibig sabihin nito na tugma ang throughput, latency, at concurrency nito sa cloud GPU/TPU cluster. Depende pa ito sa quantization accuracy, aktwal na dami ng aktibong parameter, context length, at cross-machine communication; kayang pababain ng Thunderbolt RDMA ang communication overhead ngunit hindi nito ginagawang isang malaking GPU na walang communication bottleneck ang maraming Mac. Mas naipapakita pa rin sa malaking scale training at high-concurrency service ang kalamangan ng Nvidia AI GPU-driven data center na may specialized accelerator, high-bandwidth memory, at mabilis na cluster interconnection.

Pumasok ang Apple gamit ang bagong Mac sa AI cost-reduction race, balak hamunin ang Microsoft at Nvidia

Kaya nang mag-handle ng complex AI inference task nang lokal ang bagong Mac mini at Mac Studio ng Apple, na ang presyo ay umaabot ng halos $20,000, at makikitunggali ito sa Nvidia at mga bagong desktop computer ng iba pang manufacturer. Inaasahang magiging highlight ng Windows event ng Microsoft sa San Francisco sa susunod na buwan ang mga bagong device na ito.

Ang bagong Mac ay para sa mga mas mataas na intensity na AI na gawain tulad ng pag-coding o pagganap ng masalimuot na business work, na hindi na kailangang magbayad ang mga user ng 'token' fee (ang basic unit ng AI computation) sa mga cloud service leader gaya ng OpenAI o Anthropic.

Umaasa ang mga executive ng Apple na ang karanasan nila sa pagpapaangat ng performance at energy-efficiency ng mga battery-powered device gaya ng iPhone ay tutulong sa kanila na kumuha ng bahagi mula sa traditional na merkado ng Microsoft. Subalit ito ay hamon: ayon sa pinakabagong statistics na ibinahagi ni Linn Huang ng kilalang market research firm na IDC, 4.6% lang ang market share ng Apple sa enterprise desktop market, habang 91.3% naman ang sa Windows.

Kilala na ang Apple co-founder na si Steve Jobs ay may contradicting view sa enterprise large computing market, dahil hindi pinipili ng mga end users ang pinaka-gusto nilang produkto. Pero ngayon, may advantage ang Apple sa AI desktop market, partly dahil sa pangmatagalang pagpupursige nito sa energy-saving at mataas na energy efficiency.

Noong 2020, pinalabas ng Apple ang unang batch ng Apple Silicon chips, na nag-integrate ng computation at high-performance memory chips sa unified memory architecture ng Apple para pahabain ang battery life.

Ang ganitong intimate connection ng computation at memory ay naging dahilan para mas maging mahusay ang Mac sa AI workload; kamakailan lang nagsimulang gumawa ng ganitong stratihiya ang top AI chip companies gaya ng Nvidia. Kasabay ng mabilis na pagsikat ng open-source AI agent tool na OpenClaw sa markets gaya ng China, madalas nang ma-sold out ang Mac mini ng Apple.

Kahit na orihinal na para sa content creators ng video at music ang target na merkado ng Mac Studio, nitong nakaraang dalawang taon ay tahimik na nagdagdag ang Apple ng kakaibang AI feature, tulad ng isang espesyal na teknolohiya sa interconnect ng chips na tinawag na Thunderbolt-based remote direct memory access (RDMA).

Sa event ngayong buwan, ipinasilip ng senior management ng Apple ang nakakabilib na pag-connect ng apat na Mac Studio para magpatakbo ng isang trillion-parameter super AI model system para hanapin at ayusin ang isang graphical code error. Ang number of parameters ay indicator ng complexity ng model. Karaniwan, data center ang kailangan dito pero isang wall socket lang na power supply ang kailangan ng set ng Mac na ito.

"Kapag nailagay mo na ang machine na ito sa desk mo, bayad mo na ito. Naniniwala akong outstanding ang value na inaalok namin, maging performance man ito o cost," sabi ni Johnny Srouji, Chief Hardware Officer ng Apple. "Hindi mo kailangang magbayad per token. Ulit-ulitin mo lang gamitin itong machine na ito."

Nakikipag-compete din ang Microsoft kay Apple para sa parehong blue ocean incremental market. Tinawag ni CEO Satya Nadella ang device-side AI inference workload na "smartness na hindi sinisingil per token usage." Sinabi pa niya na plano ng Microsoft na i-integrate ang maraming AI features nito sa isang super app para sa Windows.

Gayunpaman, nangangailangan ng Microsoft na suportahan ang hardware ng maraming malalaking providers, dahil sa pangmatagalang leadership nito sa enterprise computing, kaya posible itong magtulak sa Windows developers na gustong i-maximize ang power ng partikular na chip na magdagdag pa ng trabaho. Ibig sabihin, dahil kailangang compatible ang Windows sa hardware galing sa maraming providers, kailangan pa ng dagdag na adaptation at optimization kung gusto ng developers na i-maximize ang performance ng particular na chip.

Halimbawa, ang parehong AI program ay kailangang i-optimize depende sa architecture, driver, computation interface, at memory management ng CPU, GPU, o NPU ng iba't ibang manufacturer. Ang malawak na hardware ecosystem ng Windows ay nagpapalawak ng compatibility, pero nagpapadagdag din ng complexity ng performance optimization; kaya ng Apple na i-design nang sabay-sabay ang chip, operating system, at development tool para madali ang system-wide collaborative optimization.

Sa sagot ng Microsoft sa request for comment, sinabi nilang patuloy ang pakikipagtulungan nila sa chip partners para pasimplehin ang AI workload gamit ang Windows ML tools at masigla rin ang investment sa RDMA at iba pang features. Tumanggi naman magkomento ang Nvidia, ngunit noong inilunsad nila ang bagong PC chip nitong summer, sinabi ng CEO na si Jensen Huang na hindi sila direktang nakikipag-compete sa Apple kundi nakatutok sila sa pagpapalawig ng function ng Windows PC.

Nananatili pa rin sa global hyperscale AI data centers ang lakas ng Nvidia. Sabi ni Srouji, ipinapahayag ng Apple sa enterprise buyers na ang endpoint AI large model nilang dinevelop ay pweding i-scale up sa kanilang pinakamahal na Mac Studio super desktop o paigsiin para magamit sa pinakamura nilang iPhone at iPad dahil iisang prinsipyo at disenyo ang nasa likod ng chips ng mga devices na ito.

"Pwede kang mag-pour ng maraming kuryente sa data center," ani Srouji sa panayam. "Pero nakatuon kami sa pagbibigay ng maraming mga produkto para makapili ang customer batay sa pangangailangan niya: Alin ang computer na kailangan ko, anong produkto?"

Habang ang AI agent ay mas mabilis nang pumapasok sa work desk, tinatanggap ng Mac series ang pagsabog ng demand sa computing power! Palawakang ang AI growth space ng Apple

Klaro ang gusto ng Apple execs, na ang bahagi ng global enterprise AI capex—inaasahang aabot ng mahigit $3 trilyon sa AI computing infra spending bago ang 2030 ayon sa Wall Street—ay gawing budget para bumili ng Apple proprietary computing device: para sa mga task na madalas kailanganin at maaring mag-local deployment, pwedeng hati-hatiin ng enterprise ang gastos sa hardware, kuryente, at maintenance sa marami at tuloy-tuloy na task, na magpapapredictable sa long-term cost. Kasabay ng pagganda ng mga kumpanya ng semiconductor equipment tulad ng ASML (ASML.US) dahil sa AI investment boom, nakikinabang ang Apple sa downstream na bulk device procurement, tumutugma ito sa AI investment path mula chip manufacturing hanggang corporate desktop.

Gaya ng nabanggit, binuksan ng AI agent ang bagong market para sa Mac, galing sa local computing capacity na kailangan sa tuloy-tuloy na task execution. Nakapokus ang tech advantage ng Apple sa unified memory, malaking memory, energy efficiency, at hardware-software collaboration. Kritikal ang memory bandwidth para sa model weight reading sa mababang-concurrency at word-by-word large model generation; dumadagdag naman ang memory capacity na kailangan para sa long context at concurrent task. Ang unified memory ay nagbibigay ng shared memory sa CPU at GPU, tinatanggal ang data copying, kaya mas maraming local workload ang mabisa at efficient na natatapos.

Mula sa investment transmission, pinakatapat ang opportunity ng Apple ay ang pagtaas ng Mac sales, pagtaas ng percentage ng high-memory configuration, at paglawak ng penetration sa enterprise clients. Pwedeng palawakin ng lightweight tool execution at resident agents ang scenes ng paggamit ng Mac mini, samantalang ang mas malalaking local model, concurrent workflows, at maliit na cluster ay inaasahang magtataas ng demand para sa Mac Studio at high-configuration products.

Pag nagpatuloy na ang endpoint system gaya ng desktop computer sa economic value task, magiging batayan ng mga user sa return on investment ang oras na natipid, tasks na natapos, at nabawasang outside computing cost. Kasabay nito, sa pamamagitan ng sariling chip-based private cloud system, naglaan na ang Apple ng cloud model support sa Apple Intelligence, na ang collaboration ng endpoint at cloud ay nagbibigay ng room para i-optimize ang service cost, response speed, at data processing mode.

Ang enterprise AI server naman ay representasyon ng mas long-term potential growth na tinutukoy ng Apple management. Noong Setyembre 16, iniulat ng The Information, base sa source, na tinitingnan ng Apple ang paggamit ng M8 Ultra chip at posibleng Nvidia NVLink Fusion technology para sa enterprise AI inference server nila sa 2029, bagama't hindi pa kumpirmado ang plan. Kung matutuloy ito, may pagkakataon ang Apple na palawakin ang chip, memory system, software toolchain, at buong device design advantage nila papunta sa enterprise inference deployment. Ang commercial charm nito ay: Pag tumagal ang agent na tumatakbo, mas papahalagahan ng customer ang total cost, power consumption, at convenience ng bawat successful task—at eksakto diyan malakas ang Apple; ang Mac demand ngayon at enterprise server exploration in the long term ay magkakaugnay na growth logic.