NVIDIA Open Agent Safety Platform
Herramientas abiertas y personalizables que imponen los límites en torno a los agentes de IA.
Descripción general
Ingeniería de seguridad de pila completa
A medida que los agentes se convierten en una fuerza de trabajo digital, los desarrolladores necesitan herramientas para verificar la seguridad de sus productos. Sin las soluciones de ingeniería adecuadas, los agentes de IA pueden tomar acciones con consecuencias no deseadas. NVIDIA Open Agent Safety Platform es un diseño de referencia abierto desarrollado con partners que supervisa y rige de forma continua el comportamiento de los agentes, lo cual garantiza que los agentes de IA sigan las reglas.
Cuenta con NVIDIA OpenShell™, un tiempo de ejecución de código abierto que proporciona herramientas de gobernanza para imponer lo que un agente puede ver, hacer e interactuar. Los controles siguen funcionando cuando los agentes se comportan de forma inesperada, lo cual limita la propagación de los errores. Para las organizaciones que desean una capa adicional e independiente, NVIDIA Sentry proporciona telemetría fuera de banda e integrada en el silicio de la actividad de los agentes y la aplicación de las políticas de seguridad, lo cual le permite poner en cuarentena a los agentes en milisegundos.
Todo esto está optimizado para ejecutarse en la CPU NVIDIA Vera y en sistemas basados en la DPU NVIDIA BlueField, y también es compatible con otros sistemas de hardware.
Ventajas
Una base en capas para la seguridad de agentes
Combine la gobernanza en tiempo de ejecución, la detección continua de amenazas y la aplicación de políticas aisladas en hardware para mantener los agentes de IA contenidos, observables y auditables.
Tecnología
Explorar la plataforma de seguridad de agentes abiertos de NVIDIA
El software y el hardware que gobiernan, protegen e impulsan los agentes de IA a escala empresarial.
Ecosistema
Principales usuarios de todos los sectores
Los líderes del sector de todo el ecosistema de IA se están uniendo a NVIDIA para fortalecer la seguridad de la IA para todos los sectores en toda la pila de infraestructura, software, modelos y robótica.
Próximos pasos
Preguntas frecuentes
Cada componente cumple una función distinta:
- NVIDIA OpenShell rige la forma en que se ejecutan los agentes, a qué pueden acceder y cambiar, y dónde se ejecuta la inferencia.
- Sentry con BlueField-4 proporciona el aislamiento de los inquilinos fuera del entorno de ejecución del agente y proporciona detección de amenazas a nivel de silicio, gobernanza de identidades y aplicación de políticas utilizando DOCA.
- Las CPU NVIDIA Vera proporcionan una computación de alto rendimiento y energéticamente eficiente para la orquestación, la ejecución de código sandbox y el procesamiento de datos.
Más información sobre la ciberseguridad de NVIDIA y la investigación en seguridad de IA de NVIDIA.
Las indicaciones, las protecciones de los modelos y los marcos de agentes influyen en lo que un agente intenta hacer. Los controles en tiempo de ejecución imponen lo que se le permite hacer. OpenShell aplica la política fuera del proceso de agentes, mientras que NVIDIA Sentry con NVIDIA BlueField-4 añade una capa de seguridad independiente fuera del software de agentes y host.
Sí. OpenShell admite agentes como Claude Code, Codex, OpenCode, GitHub Copilot CLI y OpenClaw. Los equipos también pueden aportar agentes personalizados e imágenes de sandbox. OpenShell admite modelos abiertos y cerrados y proporciona una capa de política de tiempo de ejecución común en todos los flujos de trabajo de agentes.
No. OpenShell se puede ejecutar en infraestructuras locales, en las instalaciones, en la nube y de Kubernetes compatibles sin BlueField-4. En sistemas con BlueField-4, Sentry añade una supervisión y una aplicación aisladas por hardware que siguen funcionando si el host o la carga de trabajo se ven comprometidos.
OpenShell proporciona un seguimiento de auditoría de las decisiones de permitir y denegar, y admite la recopilación centralizada de registros de sandbox. Los agentes pueden solicitar cambios de política, con aprobaciones automáticas opcionales sujetas a las restricciones de los límites de políticas aprobados y la gobernanza empresarial. Los operadores mantienen el control sobre los límites que deben seguir los agentes.