Resumen Técnico: Los Pull Requests como Señal de Entrenamiento para la Edición de Código a Nivel de Repositorio

Declaración del Problema

La ingeniería de software a nivel de repositorio (SWE) requiere que los Modelos de Lenguaje de Gran Escala (LLMs) comprendan dependencias complejas y ejecuten modificaciones precisas en múltiples archivos a través de bases de código extensas. Mientras que los sistemas de vanguardia logran un alto rendimiento en benchmarks como SWE-bench, dependen fuertemente de un "andamiaje agéntico" complejo —combinando el uso de herramientas, localización estructurada y un extenso escalado en tiempo de inferencia. Esta complejidad oscurece hasta qué punto las capacidades de edición a nivel de repositorio pueden interiorizarse directamente en los pesos del modelo. Además, existe una brecha en los datos de entrenamiento: los conjuntos de datos de alta fidelidad (por ejemplo, variantes de SWE-bench) son pequeños y costosos de curar, mientras que los corpus masivos de código (por ejemplo, The Stack) carecen de las señales de edición multiarchivo estructuradas y la alineación con el contexto de los problemas requeridos para las tareas de SWE. Los Pull Requests (PRs) de GitHub ofrecen un punto medio prometedor, pero están dominados por el ruido, incluyendo actividad generada por bots, cambios no fusionados y modificaciones que no afectan al código fuente principal.

Metodología

Los autores proponen Clean-PR, un paradigma de entrenamiento intermedio (mid-training) centrado en los datos, diseñado para transformar los ruidosos PRs de GitHub en una señal de entrenamiento rigurosa para la edición a nivel de repositorio. La metodología consta de dos etapas principales:

1. Construcción de Datos Clean-PR

Los autores implementan un pipeline escalable para convertir los PRs brutos en un corpus verificado de 2 millones de instancias (Clean-PR-train) a partir de un total inicial de 16.4 millones de PRs brutos.

• Filtrado de Ruido y Vinculación de Issues: El pipeline aplica heurísticas estrictas para descartar PRs no fusionados, actividad generada por bots y cambios limitados a archivos de documentación o configuración. Crucialmente, vincula los PRs con sus correspondientes GitHub Issues para aumentar el contexto de entrenamiento con la definición original del problema (reportes de errores/solicitudes de funciones) en lugar de solo el resumen de la solución.
• Reconstrucción de Búsqueda/Reemplazo (Search/Replace): En lugar de utilizar diffs unificados estándar, que son frágiles debido a la dependencia de números de línea inestables, el pipeline reconstruye los estados del repositorio para generar bloques de edición de Búsqueda/Reemplazo. Estos bloques se verifican mediante un proceso de aplicación de ida y vuelta: los bloques derivados se aplican al estado "antes" para asegurar que reproducen de manera determinista el estado "después". Esto garantiza que la señal de entrenamiento sea mínima, única y rica en contexto.
• Estrategia de Muestreo: El conjunto de entrenamiento final se refina limitando el alcance a PRs que modifican como máximo cinco archivos principales, aplicando ventanas de contexto para archivos grandes y aplicando un muestreo equilibrado de repositorios para mitigar el sesgo de distribución.

2. Pipeline de Entrenamiento Alineado con Agentless

Para cerrar la brecha entre las capacidades de edición bruta y el flujo de trabajo estructurado requerido para los benchmarks de SWE, los autores emplean un proceso de entrenamiento de dos etapas:

• Entrenamiento Intermedio (Mid-Training): El modelo base (Qwen2.5-Coder-32B-Base) es primero entrenado mediante mid-training en el corpus Clean-PR para interiorizar los priors de edición a nivel de repositorio.
• SFT Paso a Paso con Aumentación Basada en Errores: Una etapa de Ajuste Fino Supervisado (SFT) alinea el modelo con un flujo de trabajo Agentless simplificado. La tarea se descompone en tres pasos: (1) Localización de Archivos, (2) Navegación a Nivel de Línea, y (3) Generación de Parches.
  • Para evitar la "sobre-edición" (modificar archivos irrelevantes debido a una recuperación ruidosa), los autores introducen la Aumentación Basada en Errores. Esto implica entrenar al modelo con ejemplos de "negativos difíciles" donde se inyectan archivos o regiones de código distractores. El modelo aprende a identificar contextos relevantes y a rechazar explícitamente aquellos que son irrelevantes, en lugar de asumir una recuperación perfecta.

Contribuciones Clave

1. Framework Clean-PR: Un pipeline de construcción de datos riguroso que filtra y verifica los PRs de GitHub, convirtiéndolos en un corpus de alta calidad y verificable de bloques de Búsqueda/Reemplazo aumentados con contextos de issues.
2. El Corpus de PRs Verificados más Grande: El lanzamiento de un conjunto de datos que contiene 2 millones de PRs verificados en 12 lenguajes de programación (17.7B de tokens para entrenamiento), construido explícitamente para el mid-training en edición a nivel de repositorio.
3. Estrategia de Entrenamiento Alineada con Agentless: Un enfoque novedoso de SFT que utiliza la aumentación basada en errores para enseñar a los modelos a navegar y editar código sin depender de bucles agénticos complejos de múltiples turnos o andamiajes de herramientas externas.
4. Evaluación Exhaustiva: Demostrar que las capacidades a nivel de repositorio pueden codificarse en los pesos del modelo, logrando resultados de vanguardia en SWE-bench con un protocolo de inferencia ligero.

Resultados

Evaluado en los benchmarks SWE-bench Lite (300 instancias) y Verified (500 instancias) utilizando un modelo base de 32B parámetros:

• Ganancias de Rendimiento: El modelo Clean-PR logró ganancias absolutas del 13.6% en Lite y del 12.3% en Verified en comparación con el baseline del modelo instruct.
• Comparación con SOTA: El modelo superó significativamente a SWE-Gym (24.3% vs. 15.3% en Lite; 30.6% vs. 20.6% en Verified), un sistema que depende de marcos agénticos complejos. Notablemente, el modelo Clean-PR de 32B superó a los baselines de 72B parámetros (Lingma-SWE, SWE-Fixer) en ambos benchmarks.
• Hallazgos de Ablación:
  • Formato: El uso de bloques de Búsqueda/Reemplazo verificados produjo tasas de parches válidos más altas y una mejor localización que los Diffs Unificados estándar.
  • Contexto: Aumentar las descripciones de los PR con las descripciones de los Issues vinculados mejoró significamente el rendimiento, confirmando el valor de alinear la intención del lenguaje natural con el código.
  • Aumentación: La aumentación basada en errores mejoró la precisión de la localización y redujo la sobre-edición, lo que llevó a ganancias consistentes en Pass@1.
• Generalización: El enfoque se transfirió eficazmente a modelos de 7B y entornos multilingües (Multi-SWE-bench Flash). Además, el modelo mostró una transferencia positiva en benchmarks de codificación generales (HumanEval, LiveCodeBench) sin olvido catastrófico, a diferencia de los modelos entrenados con datos de diff ruidosos.

Significancia

El artículo sostiene que las capacidades de edición a nivel de repositorio pueden interiorizarse efectivamente en los pesos del modelo mediante un entrenamiento intermedio de alta calidad centrado en los datos. Al aprovechar el paradigma Clean-PR, los modelos pueden lograr un rendimiento competitivo en SWE bajo un protocolo Agentless simplificado, reduciendo la dependencia de un andamiaje de inferencia pesado, bucles de planificación complejos y un costoso escalado en tiempo de ejecución. Esto sugiere que la "inteligencia" requerida para la ingeniería a nivel de repositorio no es únicamente un producto de la complejidad del sistema, sino que puede destilarse directamente en el modelo a través de una construcción de datos rigurosa y estrategias de entrenamiento dirigidas.