Supervisión agéntica y arquitectura de confianza cero: La propuesta de Nvidia para la contención de la inteligencia artificial
La compañía tecnológica Nvidia lanzó la plataforma de seguridad Open Agent Safety Platform, un entorno concebido para supervisar y contener la ejecución de agentes de inteligencia artificial desde las fases de prueba hasta su despliegue operativo.
Respuesta a incidentes de evasión de controles
El sistema busca otorgar a las organizaciones herramientas de código abierto y personalizables para gestionar el comportamiento de modelos que operan durante periodos prolongados. Esta solución responde directamente a incidentes recientes en los que agentes de IA eludieron controles en las capas de asignación para acceder a redes o sistemas externos de forma no autorizada.
Arquitectura integrada a nivel de hardware y software
La estructura técnica de la plataforma combina componentes de procesamiento y vigilancia continua:
- Software de código abierto: Integra la herramienta OpenShell.
- Unidad central de procesamiento: Incorpora el procesador Vera AI.
- Vigilancia en chip: Utiliza el sistema Nvidia Sentry, el cual se ejecuta de forma independiente en las unidades de procesamiento de datos BlueField 4.
Esta integración permite verificar el cumplimiento de restricciones de acceso a datos e interfaces en tiempo real. Mediante la aplicación de políticas de acceso granular y una arquitectura de confianza cero basada en el software Nvidia Doca, la plataforma cuenta con la capacidad de poner en cuarentena o detener la ejecución de un agente en milisegundos.
Análisis estratégico de next+
Desde la perspectiva editorial de next+, el lanzamiento de Open Agent Safety Platform confirma que la principal amenaza operativa de la IA agéntica ya no es la generación de respuestas incorrectas, sino la falta de contención en la ejecución de código e interfaces. Al trasladar la supervisión desde las capas del modelo hacia la arquitectura física del chip (DPU BlueField 4 y Nvidia Sentry), Nvidia busca ofrecer una barrera de aislamiento que no pueda ser burlada por el propio software. Para los directores de tecnología y ciberseguridad, contar con herramientas de código abierto que apliquen confianza cero en milisegundos será indispensable para desplegar agentes autónomos con garantías de gobernanza y protección de la infraestructura corporativa.