ESAA-Security: An Event-Sourced, Verifiable Architecture for Agent-Assisted Security Audits of AI-Generated Code

El artículo presenta ESAA-Security, una arquitectura de auditoría de seguridad basada en eventos que transforma la revisión de código generado por IA de una conversación libre a un proceso de auditoría verificable, reproducible y trazable mediante la separación de la cognición del agente de la mutación del estado y el uso de registros inmutables.

Lo esencial

Imagina que estás construyendo una casa muy rápida usando un arquitecto robot (la Inteligencia Artificial). El robot es increíblemente rápido: puede dibujar planos, poner ladrillos y pintar paredes en segundos. Pero, como el robot a veces "alucina" o no entiende las reglas de seguridad, la casa podría verse bonita por fuera pero tener cerraduras que no cierran, ventanas que se abren desde el exterior o cables eléctricos sueltos.

El problema actual es que, cuando revisamos estas casas, le pedimos al mismo robot (o a otro) que nos diga: "¿Hay algo malo aquí?". El robot nos responde con un texto largo y confuso. A veces olvida mencionar un problema grave, a veces inventa uno que no existe, y lo peor: nadie puede verificar si realmente revisó todo o si solo estaba "adivinando". Es como si el arquitecto dijera "confía en mí, revisé todo", pero no dejara pruebas de su trabajo.

Aquí es donde entra el ESAA-Security, la solución que propone este artículo.

La Analogía: El "Libro de Actas" Inmutable

En lugar de confiar en la memoria del robot o en una conversación libre, ESAA-Security trata la auditoría de seguridad como un proceso judicial estricto o una carrera de relevos con un libro de actas inmutable.

Imagina que el proceso de auditoría no es una charla, sino una fábrica de inspección con cuatro etapas claras:

1. Reconocimiento (El Mapa): Antes de tocar nada, el sistema hace un mapa de la casa: ¿Qué materiales se usaron? ¿Dónde están las puertas? ¿Quién tiene las llaves?
2. Ejecución (Los Inspectores): Aquí entran los "agentes" (robots especializados). Pero no pueden hacer lo que quieran. Tienen un manual de instrucciones (llamado playbook) que les dice exactamente qué revisar: "Revisa la cerradura de la puerta principal", "Revisa el cableado del sótano".
3. Clasificación de Riesgos (El Semáforo): Cada hallazgo se etiqueta. ¿Es un problema grave (Rojo)? ¿Mediano (Amarillo)? ¿O solo una sugerencia (Verde)?
4. Informe Final (El Veredicto): Se genera un reporte final que resume todo.

¿Qué hace que ESAA-Security sea especial? (Las 3 Reglas de Oro)

Para que esto funcione, el sistema impone tres reglas estrictas que cambian las reglas del juego:

1. El "Libro de Actas" (Event Sourcing)

En lugar de que el robot simplemente cambie cosas en la casa y diga "ya está hecho", el sistema funciona como un libro de actas que nunca se borra.

• La analogía: Imagina un libro donde cada vez que el robot quiere hacer algo (como "revisar la ventana"), debe escribir una entrada: "Quiero revisar la ventana". Un supervisor humano (o un sistema automático) lee esa entrada y dice: "Sí, está permitido". Solo entonces se escribe en el libro: "Ventana revisada a las 10:00 AM".
• El beneficio: Si alguien duda del resultado, puede leer el libro desde el principio hasta el final y ver exactamente qué pasó, paso a paso. No hay magia, solo hechos registrados.

2. El "Contrato" (Constrained Outputs)

El robot no puede escribir lo que quiera. Debe seguir un formulario estricto.

• La analogía: En lugar de que el robot te cuente una historia larga sobre la seguridad, debe llenar una ficha técnica: "Tipo de fallo: Puerta débil. Evidencia: Foto de la cerradura rota. Solución: Cambiar cerradura".
• El beneficio: Esto evita que el robot invente cosas o se olvide de detalles importantes. Todo está estructurado y es fácil de leer para una computadora o un humano.

3. La "Reproducción" (Replay Verification)

Esta es la parte más genial. Como todo está registrado en el "Libro de Actas", puedes reproducir la auditoría como si fuera un video.

• La analogía: Imagina que alguien dice: "Oye, creo que el robot se saltó la revisión del sótano". Tú tomas el "Libro de Actas", le das al botón de "Reproducir" y el sistema vuelve a ejecutar todos los pasos automáticamente. Si el libro dice que revisó el sótano, el sistema lo hará de nuevo y mostrará la prueba. Si no lo hizo, el sistema lo detectará inmediatamente.
• El beneficio: La auditoría es reproducible y verificable. No tienes que confiar en la palabra del robot; puedes ver la evidencia matemática de que se hizo el trabajo.

¿Por qué es importante esto?

Hoy en día, muchas empresas usan IA para escribir código (el "código de la casa"). Si solo confiamos en que la IA se revise a sí misma, es como dejar que el ladrón revise si la casa está segura.

ESAA-Security cambia la pregunta de "¿Encontró el robot algún fallo?" a "¿Podemos probar, paso a paso, que el robot revisó todo correctamente y que sus conclusiones son reales?".

En resumen

• El Problema: La IA escribe código rápido, pero sus revisiones de seguridad son confusas, difíciles de verificar y a veces olvidan cosas importantes.
• La Solución: ESAA-Security convierte la revisión de seguridad en una línea de montaje controlada.
• La Magia: Usa un registro inmutable (como un libro de actas) y reglas estrictas para asegurar que cada hallazgo de seguridad esté documentado, clasificado y sea reproducible como un video.

Es como pasar de confiar en la memoria de un testigo (que puede fallar) a tener un video de seguridad con fecha y hora exacta que nadie puede falsificar. Esto hace que el software generado por IA sea mucho más seguro y confiable para todos.

Resumen técnico

Resumen Técnico: ESAA-Security

1. El Problema

El desarrollo de software asistido por Inteligencia Artificial (IA) ha acelerado la velocidad de creación de código, pero ha exacerbado un problema de ingeniería persistente: los sistemas pueden ser funcionalmente correctos pero estructuralmente inseguros.

• Limitaciones de los enfoques actuales: Las revisiones de seguridad basadas en prompts (instrucciones) con Modelos de Lenguaje Grande (LLM) sufren de cobertura desigual, baja reproducibilidad, hallazgos no estructurados y la ausencia de un rastro de auditoría inmutable.
• Riesgos de los agentes autónomos: Cuando los agentes de IA operan en horizontes largos, la gestión de estados mutables, contextos incompletos y pasos intermedios no verificables se convierte en un riesgo operativo grave.
• Falta de gobernanza: No basta con que un modelo mencione vulnerabilidades; el proceso de evaluación de seguridad debe ser explícito en su alcance, estructurado en evidencia y reproducible.

2. Metodología y Arquitectura

El artículo propone ESAA-Security, una especialización de dominio de la arquitectura ESAA (Event-Sourced, Agent-Assisted), diseñada para convertir la revisión de seguridad de una interacción conversacional abierta en un proceso de ejecución gobernado.

Principios Fundamentales:

• Event Sourcing (Sourcing de Eventos): La fuente de la verdad no es una instantánea mutable del repositorio, sino un registro de eventos de solo adición (append-only log).
• Separación de Cognición y Estado: Los agentes emiten "intenciones estructuradas" bajo contratos estrictos. Un orquestador valida estas intenciones antes de que cualquier cambio de estado se persista.
• Verificación por Repetición (Replay): El estado actual del proyecto se reconstruye determinísticamente mediante la proyección y repetición de los eventos aceptados, garantizando la integridad y trazabilidad.

Flujo de Trabajo (4 Fases):
La auditoría se opera como una tubería de ejecución gobernada dividida en cuatro fases, 26 tareas, 16 dominios de seguridad y 95 verificaciones ejecutables:

1. Reconocimiento: Identificación de la pila tecnológica, arquitectura, flujos de datos y superficies de ataque.
2. Ejecución de Auditoría de Dominio: Ejecución de auditorías guiadas por playbooks (guiones de juego) sobre el repositorio, una tarea por dominio de seguridad.
3. Clasificación de Riesgos: Consolidación de hallazgos en inventarios de vulnerabilidades, asignación de severidad y matrices de riesgo.
4. Informe Final: Generación de remediaciones técnicas, guías de mejores prácticas, resúmenes ejecutivos y el informe de auditoría final.

Invariancias de Ejecución:
El protocolo garantiza la integridad mediante reglas estrictas:

• Reclamar antes de trabajar: Las tareas deben ser reclamadas antes de realizar cambios.
• Completar después del trabajo: Solo se emite la finalización con evidencia de verificación.
• Propiedad de bloqueo: Solo el actor que posee la tarea puede completarla.
• Inmutabilidad de "Hecho": Una vez completada, una tarea no puede reabrirse silenciosamente; las correcciones requieren flujos explícitos.

3. Contribuciones Clave

1. Especialización de Dominio: Presenta ESAA-Security como una adaptación específica para la auditoría de seguridad basada en evidencia de repositorios de software (especialmente aquellos generados o modificados por IA).
2. Pipeline de Auditoría Gobernado: Define un flujo que combina salidas de agentes restringidas, persistencia de eventos de solo adición, reproyección determinista y verificación basada en repetición.
3. Operacionalización Estructurada: Estructura la revisión de seguridad en un marco cuantificable (4 fases, 26 tareas, 16 dominios como autenticación, criptografía, seguridad de IA/LLM, etc., y 95 verificaciones).
4. Nueva Métrica de Evaluación: Propone que el éxito no se mide solo por la enumeración de vulnerabilidades, sino por la trazabilidad, reproducibilidad, explicitación de la cobertura, completitud de los artefactos y utilidad de la remediación.

4. Resultados y Artefactos de Salida

El marco produce una cadena de artefactos estructurados que evolucionan desde hallazgos a nivel de verificación hasta informes ejecutivos:

• Hallazgos Estructurados: En lugar de narrativa libre, cada hallazgo es un objeto de evidencia que vincula un identificador, estado, severidad, evidencia de código/configuración y guía de remediación.
• Inventario de Vulnerabilidades y Matriz de Riesgos: Transforma hallazgos locales en estado de seguridad del sistema, clasificándolos por severidad (CRÍTICO, ALTO, MEDIO, BAJO, INFO) e impacto en la confidencialidad, integridad y disponibilidad (CIA).
• Informes Finales:
  • Un informe técnico con remediaciones concretas.
  • Un resumen ejecutivo con una puntuación de seguridad (0-100) y riesgos prioritarios.
  • Un informe completo en Markdown/JSON que es auditable por construcción, ya que es la proyección terminal de una secuencia de eventos admitidos.

5. Significado y Conclusión

El artículo argumenta que la calidad de una auditoría de seguridad asistida por IA no debe juzgarse por la cantidad de vulnerabilidades plausibles que un modelo puede nombrar, sino por si el proceso de auditoría puede reconstruirse, verificarse y confiarse como un proceso gobernado.

• Cambio de Paradigma: Se pasa de tratar la auditoría como un problema de "prompting" (instrucción) a tratarlo como un problema de ejecución gobernada.
• Confianza: La unidad de confianza deja de ser la "opinión" del modelo para convertirse en el "estado de auditoría" válido según el protocolo y verificable por repetición.
• Limitaciones: El marco no garantiza la ausencia total de vulnerabilidades ni reemplaza las pruebas de penetración tradicionales. Su eficacia depende de la calidad de los playbooks y del contexto del repositorio.
• Impacto Futuro: ESAA-Security establece un nuevo estándar para la madurez de auditoría interna en entornos de desarrollo acelerados por IA, alineado con estándares como OWASP Top 10 y ASVS, pero adaptado para la trazabilidad requerida por la ingeniería de software agéntica.

En resumen, ESAA-Security ofrece una arquitectura donde la seguridad se integra mediante evidencia inmutable y procesos deterministas, resolviendo la crisis de reproducibilidad y gobernanza en la auditoría de código generado por IA.