VERIFICAR ANTES DE IMPLEMENTAR
Mantenga a los agentes dentro de su función autorizada.
Praxen ayuda a los equipos a verificar si la implementación, las herramientas, los permisos, las indicaciones, la memoria, las integraciones y el entorno de un agente se ajustan a su rol autorizado.
Definir un mandato de trabajador que pueda ser comprobado
Identificar dónde el comportamiento puede exceder el alcance.
Revise los controles antes y durante la implementación.
VERIFICACIÓN DEL AGENTE COMPLETO
Ver el riesgo en todo el agente
Vaya más allá del análisis de código y las medidas de seguridad. Evalúe cómo interactúan las indicaciones, las herramientas, los permisos, la memoria, los servidores del Protocolo de Contexto de Modelo (MCP), las aprobaciones, el registro, la configuración y el contexto de ejecución.
Evaluar los factores de riesgo relacionados
Identificar rutas de ejecución riesgosas
Lagunas en la documentación y riesgo residual
SOPORTE EMPRESARIAL PARA EQUIPOS
Verificación de escalas Praxen con ayuda de expertos
Praxen es de código abierto para todos los desarrolladores y equipos. A medida que la verificación evoluciona de un solo proyecto a flujos de trabajo compartidos y repetibles, el soporte de Exabeam le ayuda a implementarla más rápidamente, a alinear los estándares y a obtener respuestas de un punto de contacto confiable.
Guía de incorporación para la implementación de equipos
Buenas prácticas para flujos de trabajo compartidos
Acceso directo a los expertos de Praxen.
Verificar el comportamiento esperado del agente
Defina el rol autorizado del agente en el ámbito de trabajo, incluyendo su misión, herramientas, permisos, acceso a datos, aprobaciones y límites. Praxen evalúa la implementación, las indicaciones, la memoria, las integraciones, la configuración y el contexto de ejecución del agente en función de dicho ámbito para identificar posibles comportamientos que excedan las expectativas y dónde es necesario prestar atención a los controles.
Preguntas frecuentes
¿Qué es la seguridad de los agentes de IA de código abierto?
La seguridad de agentes de IA de código abierto utiliza software, especificaciones y métodos de detección disponibles públicamente para ayudar a las organizaciones a evaluar y supervisar sistemas de IA autónomos o semiautónomos. Esto proporciona a los desarrolladores y equipos de seguridad una mayor visibilidad sobre el funcionamiento de los controles y les permite adaptarlos a sus propios entornos.
¿Cuál es la diferencia entre Praxen y Observra?
Praxen verifica el comportamiento previsto comparando la política declarada de un agente con la evidencia de su implementación y comportamiento. Observra captura la actividad en tiempo de ejecución y la convierte en telemetría normalizada. Praxen se centra principalmente en la verificación antes del despliegue y durante las revisiones de lanzamiento; Observra proporciona visibilidad continua durante el desarrollo y la producción.
¿Necesito un producto de Exabeam para usar Praxen u Observra?
No. Ambos proyectos están diseñados para ser útiles de forma independiente. Praxen genera informes locales en HTML, JSON y texto. Observra puede enviar eventos a archivos locales, webhooks, sistemas compatibles con OpenTelemetry, SIEM y plataformas de observabilidad.
¿Los proyectos envían datos a Exabeam?
Los proyectos no envían automáticamente información a Exabeam. Praxen genera informes localmente, aunque el agente de codificación que ejecuta Praxen puede comunicarse con su proveedor de modelos configurado. Observra envía telemetría únicamente a los servidores backend configurados por el usuario.
¿Praxen y Observra son de uso gratuito?
Sí. Ambos proyectos están disponibles bajo la Licencia Apache 2.0, sujetos a los términos de dicha licencia.
¿Quién apoya estos proyectos?
Exabeam aportó el código inicial y continúa apoyando su desarrollo. Se fomenta la participación de la comunidad, las pruebas, los comentarios, la notificación de problemas y las contribuciones a través de GitHub.