Nvidia lanza un sistema de seguridad de inteligencia artificial de doble capa para prevenir el acceso no autorizado de agentes inteligentes

NVIDIA (NVDA.US) ha lanzado un nuevo sistema de seguridad de inteligencia artificial de doble capa. La compañía afirma que este sistema puede evitar incidentes de seguridad destacados como el ocurrido recientemente con modelos de inteligencia artificial de OpenAI en Hugging Face. NVIDIA está presentando dos nuevas herramientas de software de código abierto que pueden ejecutarse en su hardware, destinadas a controlar en tiempo real el contenido al que pueden acceder los agentes de IA y a cerrarlos si infringen las reglas. Justin Boitano, vicepresidente de AI empresarial de NVIDIA, declaró el lunes que si los principales laboratorios de inteligencia artificial hubieran adoptado esta tecnología desde el principio al evaluar sus modelos de IA, ataques como el sufrido por Hugging Face podrían haberse evitado. “Según la información que tenemos en este momento, esta nueva plataforma de seguridad podría haber evitado dicho incidente de vulnerabilidad”, afirmó.