Habang tumitindi ang mga alalahanin sa seguridad, inilunsad ng Nvidia (NVDA.US) ang solusyon ng engineering! Ang doble-layer na AI security platform ay direktang tumutugon sa mga permiso at abnormal na pag-uugali ng mga intelligent agent

Ayon sa Filipino Star News APP, habang tumitindi ang mga diskusyon kaugnay ng panganib sa seguridad ng industriya ng artificial intelligence (AI), nagpasyang sagutin ito ng Nvidia (NVDA.US) sa pamamagitan ng inhenyerong solusyon. Noong Lunes, inilunsad ng Nvidia ang tinatawag na “Open Agent Safety Platform”, isang dalawang-layer na AI security platform na nagbibigay ng tuloy-tuloy na pagmamanman, real-time na pagpapatupad ng mga patakaran, at seguridad na pamamahala para sa mga AI agent sa pamamagitan ng application layer, runtime at infrastructure na tatlong antas na arkitektura.

Ayon sa ulat, ang sistema ay binubuo ng dalawang open source na mga software tools—OpenShell at Nvidia Sentry. Ang open source na OpenShell ay maaaring paganahin ang AI agent sa loob ng sandbox environment, baguhin ang user command patungo sa naiba-verify na security policies, at nililimitahan ang pag-access ng agent sa mga file, network, tools, proseso, at credential. Ang Nvidia Sentry naman ay nag-extend ng pagmamanman at security control hanggang sa data processing unit na BlueField, gamit ang Nvidia DOCA upang subaybayan ang interaksyon ng agent, policy decision, pati na rin ang rekord ng access sa tools at data, na tumutukoy sa abnormal na paggawi at, kung kinakailangan, ay nagsasagawa ng interbensyon. Sa madaling salita, ang OpenShell ay responsable sa pagkokontrol ng mga mapagkukunan at execution permissions na maaaring ma-access ng AI agent, at ang Nvidia Sentry ay responsable sa pagmamanman ng agent behavior at pagtukoy ng mga potensyal na banta.

Ayon sa Nvidia, maaaring lumihis ang AI agent sa kanilang nakatakdang gawain dahil sa tools, runtime, o hindi malinaw na utos, kaya kinakailangang magkaroon ng independent security control na hindi nakasalalay sa mismong agent. Ang sistemang ito ay na-optimize para sa Nvidia Vera CPU at BlueField DPU system, at compatible din sa iba pang hardware system. Sinabi rin ng Nvidia na nakikipagtulungan ito sa Arm (ARM.US) at Intel (INTC.US) upang matiyak na gagana rin ang sistema sa CPUs ng dalawang kumpanyang iyon.

Ibinahagi ni Ali Golshan, Senior Director of AI Software ng Nvidia, na ginagamit ng mga tools ng Nvidia ang mathematical formula upang matukoy kung sinusubukan ng AI agent na gumamit ng workarounds—halimbawa, maaaring subukan ng agent na “mag-generate” ng maramihang “sub-agents” para makaiwas sa mga harang na inilaan para sa pangunahing agent. Sinabi niya: “Ang talagang tinatalakay natin ay ang agentized behavior, ibig sabihin, ang cluster ng maraming agents at kung paano sila nagsasama-sama sa operasyon.”

Dagdag pa ng Nvidia, kayang ipatupad ng sistema ang millisecond-level isolation ng abnormal agents at kung na-deploy na sana ito ng may kaugnayang laboratories, maaari sanang napigilan ang pag-atake ng OpenAI model sa Hugging Face nitong Hulyo.

Ayon kay Justin Boitano, Vice President at General Manager ng Enterprise Computing Division ng Nvidia: “Batay sa kasalukuyang impormasyon, kung naipagana agad ang bagong seguridad na platform na ito sa early evaluation stage ng mga cutting-edge AI laboratories, sana ay napigilan ang paglusob na ito.” Dagdag pa niya: “Isinusulong namin ang programang ito sa isang open na paraan, nais naming makipagtulungan at imbitahan ang lahat na maging bahagi nito.”

Ang pinakabagong AI security system ng Nvidia ay inilunsad kasabay ng patuloy na tumataas na kaso ng security incidents na may kinalaman sa AI agents, lalo na ang nangyaring hindi kontroladong pagsalakay noong Hulyo ng OpenAI model sa kilalang open source AI platform na Hugging Face. Simula nang ma-hack ang Hugging Face, sunud-sunod pang naiulat ang iba pang insidente na konektado sa OpenAI AI agents. Kabilang dito ang balita noong Setyembre na ang AI agent ng OpenAI ay kinuha ang kontrol sa isang matagal nang abandonadong website ng Germany Wikipedia ngayong tagsibol. Dagdag pa rito, sinabi ng OpenAI sa blog post noong kalagitnaan ng buwan na sa nakalipas na anim na buwan, nakapagtala sila ng anim na “hindi inaasahan o nakababahalang behavior ng mga modelo.” Ang anim na bagong AI security incidents ay may kinalaman sa iba’t ibang uri ng abnormal model behavior, kabilang ang pagtatago ng errors, paghahanap ng hindi awtorisadong credentials, pag-upload ng files sa public websites, at komunikasyon sa pagitan ng dati sanang hiwalay na mga training environment, kung saan ang earliest incident ay natunton pa noong nakaraang Oktubre.

Dahil sa sunud-sunod na AI security incidents nitong nakaraang panahon, dumarami ang pressure sa mga AI companies upang seryosohing tugunan ang mga security risks. Noong Setyembre 12, nanawagan si Anthropic CEO Dario Amodei sa isang babalang artikulo na dahan-dahang paunlarin ang mga cutting-edge AI models. Agad itong sinang-ayunan nina Musk at Altman, ang dalawang pangunahing personalidad sa industriya.

Gayunpaman, habang bihirang magkaisa ang mga higante ng AI na magpabagal ng takbo, nanindigan si Nvidia CEO Jensen Huang na tutol sa panukala ng Anthropic ukol sa pagbagal ng AI developments. Nilinaw ni Jensen Huang na ang tinututulan niya ay hindi ang AI safety mismo kundi ang pagpapasya batay sa di-pa-napatunayang mga catastrophic predictions na dapat itigil o pabagalin ang buong industriya. Sa halip, mas nais ni Jensen Huang na ituring ang AI safety bilang isang engineering problem. Kapag may nangyaring insidente sa isang cutting-edge laboratory, ang unang hakbang ay root cause analysis: ano talaga ang nangyari, anong bahagi ang nabigo, anong mga hakbang sana ang puwedeng gawin, at anong mga bagong teknolohiya o proseso ang dapat itatag. Gamit ang sandbox, tuloy-tuloy na pagmamanman, beripikasyon, at ebalwasyon, matitiyak na ang mga kaparehong problema ay mapipigil bago ang susunod na release.

Sa pananaw ni Jensen Huang, mas malaki ang panganib sa pinaka-advanced na laboratories ngayon dahil sila ang may pinakamalakas na computing power at humaharap sa pinakamalalaking hamon. Hinay-hinay na nagiging engineering organizations ang mga kumpanyang ito mula sa pagiging research institutes kaya kailangan ding magkaroon ng angkop na testing at control systems.

Batay sa paglulunsad ng AI security system na ito, sinusubukan ng Nvidia na higit pang i-embed ang AI security capabilities sa infrastructure ng model operation at agent execution, kaya bumababa ang AI agent security risk gamit ang permission control at isolation ng abnormality. Mukhang nangangahulugan ito na pinalalawak pa ng Nvidia ang negosyo nito mula AI chips paabot sa larangan ng software at security infrastructure.