CyberForge: Verified Vulnerability Injection at Repository Level for Cybersecurity Agent Training

Resumen Técnico: CyberForge

Planteamiento del Problema
Los agentes de Modelos de Lenguaje Extensos (LLM) de frontera actualmente tienen dificultades para descubrir y parchear vulnerabilidades complejas en software del mundo real. Mientras que estos agentes pueden asistir a atacantes que solo necesitan encontrar una única debilidad explotable, los defensores deben asegurar continuamente bases de código completas. El cuello de botella principal en el desarrollo de agentes defensivos más fuertes es la escasez de datos de entrenamiento de seguridad de alta calidad que incluyan entornos de compilación y ejecución reproducibles. Los conjuntos de datos existentes se limitan en gran medida a las Vulnerabilidades y Exposiciones Comunes (CVE) históricas y reportes de programas de recompensas por errores (bug-bounty), los cuales se ensamblan manualmente o mediante la reproducción automatizada de problemas ya divulgados. Estos recursos están limitados por la tasa de descubrimiento humano y la divulgación pública, y a menudo no logran escalar como datos de entrenamiento porque validar una vulnerabilidad requiere una condición dual: el código inyectado debe superar todas las pruebas unitarias existentes (permaneciendo latente) mientras es activable por una entrada adversaria específica (Prueba de Vulnerabilidad, o PoV).

Metodología: El Marco de Trabajo CyberForge
CyberForge es un marco diseñado para sintetizar datos de entrenamiento de seguridad ejecutables a nivel de repositorio mediante la inyección de vulnerabilidades en proyectos reales de C/C++. Desacopla el crecimiento del corpus de la tasa de divulgación humana al crear nuevas instancias en lugar de minar las históricas. El marco opera sobre proyectos inscritos en OSS-Fuzz, aprovechando sus imágenes de Docker preexistentes, scripts de construcción y harnesses de libFuzzer para asegurar entornos reproducibles.

CyberForge emplea dos pipelines de inyección complementarios:

1. Inyección Guiada por Fuzzing: Este pipeline utiliza la infraestructura de fuzzing existente para identificar sitios de inyección de alto valor. Analiza los metadatos de OSS-Fuzz para mapear funciones alcanzables por los harnesses existentes. Un sistema de puntuación clasifica estas funciones basándose en su rol estructural, profundidad de llamada y "capacidad de activación" (probabilidad de ser alcanzada por un harness existente). Un agente de LLM realiza entonces una modificación mínima y dirigida para debilitar una verificación de seguridad en el sitio seleccionado. La validación es automatizada: la compilación modificada debe pasar todas las pruebas unitarias, y se genera un PoV para activar la vulnerabilidad. Una ejecución post-hoc con libFuzzer utilizando un corpus de semillas consciente del formato proporciona una ruta de validación adicional.
2. Inyección In-Context Agéntica: Este pipeline apunta a vulnerabilidades que están fuera del alcance de los harnesses de fuzzing existentes. Utiliza una estrategia de recuperación híbrida, combinando similitud estructural (basada en AST) y semántica (basada en embeddings) para emparejar proyectos objetivo con patrones de CVE históricos del conjunto de datos PrimeVul. Además, agentes especialistas de LLM exploran directamente la base de código para proponer diversos tipos de debilidades. El proceso de inyección implica bucles de reintento iterativos, análisis de flujo de datos (taint analysis) para verificar las rutas de flujo desde las fuentes de entrada hasta el sumidero (sink) vulnerable, y generación de PoV utilizando reportes de sanitizadores (ASAN/UBSAN) y efectos secundarios observables.

Mecanismo de Validación
Un Oráculo de PoV Diferencial compartido valida todas las instancias generadas. Una instancia solo se acepta si:

• Condición 1: La compilación inyectada supera todas las pruebas unitarias existentes del proyecto (asegurando que la vulnerabilidad es latente y no un error funcional).
• Condición 2: El PoV generado activa un fallo (por ejemplo, un error de sanitizador, un crash) en la compilación inyectada pero no en la compilación limpia bajo la misma entrada.

Contribuciones Clave

• Marco de Generación a Nivel de Repositorio: CyberForge sintetiza datos de entrenamiento a partir de bases de código compilables mediante la inyección de vulnerabilidades y la validación diferencial, yendo más allá de la inyección estática a nivel de función.
• Corpus Validado: El marco produjo 1,034 vulnerabilidades validadas a través de 80 proyectos de C/C++ y 63 categorías de debilidades (CWEs). La localidad de edición de estos parches sintéticos se asemeja estrechamente a los parches de CVE reales, con una distancia de Kolmogorov–Smirnov de 0.165 comparada con una línea base de 0.190 entre dos corpora de CVE reales.
• Mejoras de Rendimiento Aguas Abajo: El ajuste fino (fine-tuning) de agentes utilizando trayectorias recolectadas de este corpus mejoró significativamente el rendimiento en los benchmarks SEC-bench (en dominio) y PatchEval (fuera de dominio).

Resultados
Los autores realizaron el ajuste fino de tres modelos de estudiante de código abierto (Gemma 4 E4B, 12B y 31B) utilizando trayectorias recolectadas de dos maestros (Gemma 4 31B y GPT-5.4-mini).

• Rendimiento en SEC-bench: Todas las seis configuraciones de estudiante-maestro mejoraron las puntuaciones de reparación de parches en +3.3 a +14.7 puntos. La configuración más fuerte (estudiante 31B con maestro GPT-5.4-mini) alcanzó un 72.7%, acercándose al 74.0% del maestro.
• Generalización Fuera de la Distribución: Las ganancias se transfirieron a PatchEval, un benchmark que contiene tareas de Go, JavaScript y Python, a pesar de que el corpus de entrenamiento fue exclusivamente de C/C++. Cada configuración mejoró en este benchmark de lenguaje cruzado.
• Análisis de Comportamiento: El ajuste fino dirigió a los agentes hacia los flujos de trabajo de sus maestros. Los modelos más pequeños (ej. 12B) ganaron principalmente al aprender a alcanzar la etapa de verificación (aumentando la cobertura del flujo de trabajo), mientras que los modelos más grandes (31B) mejoraron su tasa de éxito una vez alcanzada la etapa de verificación.
• Escalabilidad: El rendimiento escaló monótonamente con el número de trayectorias de entrenamiento, sin mostrar signos de saturación a las 880 trayectorias.

Significancia y Reivindicaciones
El artículo afirma que CyberForge proporciona una fuente escalable de datos validados por ejecución para entrenar agentes de ciberseguridad, abordando la brecha crítica de datos de entrenamiento en el lado defensivo de la seguridad asistida por IA. Al generar vulnerabilidades sintéticas que son verificadas mediante ejecución en lugar de análisis estático, el marco produce instancias de entrenamiento realistas que no están limitadas por el ritmo de la divulgación pública. Los autores enfatizan que su marco genera pruebas de vulnerabilidad (PoVs) para demostrar la existencia y el alcance de las debilidades, en lugar de producir exploits activos diseñados para comprometer sistemas. El trabajo demuestra que el entrenamiento dirigido en datos sintéticos, a nivel de repositorio, puede mejorar significativamente la capacidad de los agentes de IA para localizar y parchear fallos de seguridad en entornos de software complejos.