SkillCAT: Contrastive Assessment and Topology-Aware Skill Self-Evolution for LLM Agents

Resumen Técnico: SkillCAT

Declaración del Problema

Los agentes de Modelos de Lenguaje Extensos (LLM) dependen cada vez más de documentos de habilidades externos (por ejemplo, instrucciones estructuradas, reglas de herramientas) para ejecutar tareas de largo alcance sin actualizar los pesos del modelo. Aunque los métodos recientes de "auto-evolución de habilidades" intentan extraer habilidades reutilizables de las trayectorias de ejecución de los agentes, los procesos actuales sufren tres limitaciones críticas:

1. Sesgo de Traza Única (Single-Trace Bias): Los métodos actuales suelen extraer habilidades de una sola trayectoria por tarea. Una traza exitosa puede reflejar estrategias accidentales, mientras que una traza fallida puede ocultar la causa raíz del fallo, lo que genera evidencia débil o ruidosa para la extracción de habilidades.
2. Fusión No Validada (Unvalidated Merging): Los parches de habilidades candidatos se fusionan típicamente en un corpus sin una verificación independiente. Esto permite que parches de baja calidad o perjudicialos entren en la biblioteca de habilidades, degradando potencialmente el rendimiento en las tareas de origen de las que fueron derivados.
3. Sobrecarga de Contexto (Context Overload): A medida que el corpus de habilidades crece mediante la fusión, el contexto en tiempo de inferencia se satura con reglas irrelevantes o conflictivas. Esto aumenta la longitud del prompt, distrae al agente y complica la planificación.

Los enfoques existentes, como Trace2Skill, utilizan procesos de procesamiento por lotes (batch) fuera de línea pero no logran abordar estos problemas específicos de calidad de evidencia, validación de parches y eficiencia de contexto simultáneamente.

Metodología: El Marco de Trabajo SkillCAT

SkillCAT (Contrastive Assessment and Topology-Aware Skill Self-Evolution) es un marco de trabajo libre de entrenamiento que descompone el ciclo de vida de la habilidad en tres etapas distintas: Extracción Causal Contrastiva (CCE), Evolución Aumentada por Evaluación (AAE) y Ejecución de Tareas Consciente de la Topología (TTE).

1. Extracción Causal Contrastiva (CCE)

CCE aborda el sesgo de traza única generando múltiples trayectorias para cada tarea utilizando muestreo de múltiples semillas (multi-seed sampling).

• Construcción de Pares Contrastivos: Para una tarea dada, CCE construye pares de trayectorias exitosas y fallidas.
• Identificación de la Cuenca Causal (Causal Watershed Identification): El sistema identifica la "cuenca causal": el primer punto donde las secuencias de acciones de las trazas de éxito y fallo divergen.
• Extracción de Registros: En lugar de resumir toda la traza, CCE extrae registros de experiencia candidatos centrados en este punto de divergencia, infiriendo la causa del fallo y formulando una lección editable para la habilidad. Si no existe un par éxito/fallo para una tarea, se emplea un mecanismo de respaldo o se omite la tarea.

2. Evolución Aumentada por Evaluación (AAE)

AAE trata los parches candidatos como hipótesis para ser verificadas en lugar de reglas para ser fusionadas inmediatamente.

• Replay en la Tarea de Origen: Cada parche candidato se vuelve a ejecutar en "clones de la tarea de origen" (instancias de la tarea original que generó la evidencia).
• el Sistema asigna una puntuación calibrada basada en la transición del resultado:

*   **Fallo $\to$ Éxito (Puntuación 3.0):** Evidencia más fuerte; el parche repara un fallo.
*   **Éxito $\to$ Éxito (Puntuación 2.0):** Preservación del comportamiento; el parche mantiene un éxito conocido.
*   **Fallo $\to$ Fallo (Puntuación 1.0):** Evidencia débil; el parche no logra resolver el problema.
*   **Éxito $\to$ Fallo (Puntuación 0.0):** Rechazado; el parche rompe la funcionalidad existente.

• Fusión Jerárquica: Solo los parches que cumplen con un umbral de puntuación (por ejemplo, $\ge 2.0$) son retenidos. Estos se fusionan jerárquicamente de niveles de puntuación bajos a altos, asegurando que los parches de alto valor (aquellos que reparan fallos) tengan prioridad mientras se evita que parches perjudiciales entren en el corpus global de habilidades.

3. Ejecución de Tareas Consciente de la Topología (TTE)

TTE aborda la sobrecarga de contexto compilando la habilidad evolucionada en una topología enrutable en lugar de un documento monolítico.

• Construcción de la Topología: El compilador fuera de línea analiza la habilidad fusionada en un componente central "siempre activo" y un conjunto de nodos enrutables (secciones de Nivel-2) que contienen metadatos (títulos, palabras clave, dependencias).
• Enrutamiento Dinámico: En tiempo de inferencia, un enrutador de LLM selecciona solo los $k$ nodos más relevantes basados en la descripción específica de la tarea.
• Ensamblaje de Habilidades: El contexto final se ensambla concatenando la habilidad central con los cuerpos de los nodos seleccionados. Esto asegura que el agente cargue solo los nodos de capacidad mínimos y relevantes para la tarea, reduciendo los costos de tokens y la distracción.

Contribuciones Clave

El artículo identifica tres decisiones clave en la mejora de habilidades de agentes fuera de línea —extracción de evidencia, validación/integración de parches y despliegue en tiempo de prueba— y propone SkillCAT como solución:

1. Diseño del Marco de Trabajo: Un marco libre de entrenamiento que integra la extracción causal contrastiva, la evolución aumentada por evaluación y la ejecución consciente de la topología.
2. Mitigación de Problemas: Aborda directamente el sesgo de traza única, la fusión no validada y la sobrecarga de contexto en tiempo de inferencia mediante módulos arquitectónicos específicos.
3. Validación Empírica: Demuestra un fuerte rendimiento a través de entornos de hojas de cálculo, documentos y modelos cruzados, mostrando que la evolución de habilidades fiable es posible sin entrenamiento de modelos.

Resultados Experimentales

SkillCAT fue evaluado en SpreadsheetBench, WikiTableQuestions (para generalización fuera de distribución) y DocVQA (para transferencia multimodal).

• SpreadsheetBench: Cuando se inicializó con habilidades escritas por humanos, SkillCAT logró una precisión del 55.50% (Vrf) con Qwen3.5-35B-A3B, superando al baseline de Trace2Skill (29.67%) por 25.83 puntos porcentuales. En configuraciones de "Creación de Habilidades" (partiendo de habilidades paramétricas más débiles), SkillCAT mejoró la precisión en 34.33 puntos respecto al baseline.
• Fuera de Distribución (WikiTableQuestions): SkillCAT demostró una generalización robusta, alcanzando un 81.55% de precisión con Qwen3.5-35B-A3B, superando significativamente a los baselines.
• Generalización entre Modelos: Las habilidades evolucionadas por modelos Qwen3.5 fueron utilizadas con éxito por gemma-4-31B-it y gpt-5.4-mini, mostrando que las habilidades evolucionadas no están sobreajustadas al modelo autor.
• Multimodal (DocVQA): SkillCAT mejoró las puntuaciones ANLS a 0.9159 (usuario de Qwen3.5-35B-A3B), mientras que los métodos no validados (Trace2Skill + Error) cayeron por debajo del baseline de "Sin Habilidad", resaltando la necesidad del paso de validación AAE.
• Estudios de Ablación: Eliminar cualquiera de los tres módulos (CCE, AAE o TTE) resultó en una degradación del rendimiento. Notablemente, eliminar AAE causó que el rendimiento cayera por debajo del baseline, confirmando que la validación es crítica para prevenir parches perjudiciales.

Significado y Reivindicaciones

El artículo afirma que SkillCAT proporciona una vía fiable y libre de entrenamiento para que los agentes de LLM auto-evolucionen sus habilidades. Al separar el proceso en extracción de evidencia, validación y despliegue consciente del contexto, supera los rendimientos decrecientes y la acumulación de ruido vistos en los bucles de actualización secuenciales. Los autores enfatizan que la capacidad del marco para generalizarse a través de modelos y dominios, mientras reduce simultáneamente el contexto de inferencia mediante el enrutamiento consciente de la topología, ofrece una solución práctica para escalar las capacidades de los agentes sin el costo computacional del ajuste fino (fine-tuning). Los resultados sugieren que la evolución de habilidades de alta calidad depende fuertemente de la calidad de la evidencia (CCE) y el rigor de la validación (AAE), más que de la simple acumulación de más datos de trayectoria.