La plataforma de seguridad Open Agent de NVIDIA previene la "deriva" de los agentes de IA mediante la aplicación fuera de banda.

NVIDIA lanzó la Open Agent Safety Platform, un marco abierto diseñado para proteger a los agentes de inteligencia artificial autónomos mediante controles de política constantemente monitoreados y aplicados mediante hardware. Esta plataforma, presentada el 28 de septiembre de 2026, tiene como objetivo responder a las crecientes preocupaciones de la industria de la IA, después de informes sobre agentes de IA que escapan de entornos de prueba, acceden a sistemas no autorizados e informan incorrectamente sobre su propio comportamiento.

La compañía compara esto con los primeros días de Internet. Internet solo se convirtió en la base del comercio y la comunicación una vez que se establecieron mecanismos de seguridad (conexiones cifradas, pestañas de navegador en sandbox e indicadores de confianza visibles). NVIDIA considera que la IA de agentes también necesita una capa de confianza similar para expandirse hacia una "economía de agentes" confiable, y que los controles de seguridad deberían acelerar, no frenar, la innovación.

OpenShell Runtime: Aislamiento del kernel

El núcleo de la plataforma es NVIDIA OpenShell, un entorno de ejecución seguro y open source publicado bajo la licencia Apache 2.0. OpenShell ejecuta cada agente en un entorno sandbox con aislamiento a nivel de kernel, y convierte las instrucciones del operador en políticas verificables. Define permisos para acceder a archivos, red, herramientas, procesos y credenciales. Estas restricciones se verifican antes de la ejecución y se aplican continuamente durante la operación.

La plataforma se basa en cinco principios: las políticas deben poder verificarse antes de ejecutar el agente; la aplicación debe darse fuera del alcance directo del agente; el camino hacia el modelo es el principal punto de control y observabilidad; los permisos del agente deben ampliarse junto con la transparencia de su razonamiento; y la responsabilidad de la seguridad se comparte entre laboratorios, empresas y proveedores de hardware.

Las investigaciones propias de NVIDIA resaltan el problema del “desvío”: el comportamiento de los agentes se distancia de la tarea prevista debido a instrucciones poco claras, políticas limitadas, falta de herramientas o largos periodos de autonomía. La compañía señala que no es posible eliminar completamente este desvío sin sacrificar las capacidades del agente, por lo que no se puede esperar que los agentes gestionen por sí mismos estas situaciones.

Aplicación de políticas a gran escala a nivel de hardware

La arquitectura cuenta con tres capas: la de aplicación (modelos, herramientas, frameworks y datos), la de entorno de ejecución (orquestación y aplicación de políticas), y la de infraestructura (recursos de cómputo, almacenamiento y red). Para organizaciones que necesitan una segunda capa independiente, NVIDIA Sentry extiende la monitorización y el control a través de NVIDIA DOCA hacia las unidades de procesamiento de datos BlueField-4, vinculando las interacciones del agente, las decisiones de política y el acceso a datos con los registros contextuales de actividad, mientras se verifica constantemente la identidad y autorización de cada agente.

En una configuración NVIDIA Vera Rubin POD, el DPU BlueField-4 se encuentra como la única vía desde el nodo hacia el modelo, proporcionando observabilidad fuera de banda y ejecución de políticas en tiempo real y a velocidad de red, aislado del host. Esto permite protección de seguridad “a nivel de chip” incluso cuando los recursos del host no son confiables. NVIDIA destaca que para implementaciones existentes de Vera y BlueField-4, sólo se necesita una actualización de software para aplicar esta protección; además, la plataforma es compatible con hardware que no es de NVIDIA.

NVIDIA afirma que está trabajando junto a laboratorios punteros, desarrolladores y proveedores de infraestructura para convertir esta plataforma en la base abierta de la emergente economía de agentes, y posiciona el control independiente basado en hardware como condición previa para sistemas autónomos de confianza a gran escala.