Resumen Técnico: SkillLens: Reutilización Adaptativa de Habilidades de Multi-Granularidad para Agentes LLM Eficientes en Costos

Declaración del Problema

Los agentes de Modelos de Lenguaje Grande (LLM) dependen cada vez más de bibliotecas de habilidades para externalizar la experiencia procedimental, evitando la necesidad de redescubrir comportamientos desde cero para cada tarea. Sin embargo, los sistemas existentes (por ejemplo, Voyager, Reflexion, SkillAct) suelen tratar las habilidades como bloques de prompts planos y de resolución única. Este enfoque atómico crea una tensión fundamental entre la relevancia y el costo:

• Inyección Gruesa: Inyectar una habilidad recuperada como un todo a menudo introduce contexto irrelevante o engañoso si la habilidad es solo parcialmente compatible con la tarea actual, inflando la ventana de contexto y sembrando alucinaciones.
• Descarte Todo-o-Nada: Si una habilidad no es una coincidencia perfecta, los agentes a menudo la descartan por completo, forzando una re-solución desde cero y desperdiciando subestructuras reutilizables.
• Reescritura Ineficiente: Reescribir una habilidad completa para adaptarla a un nuevo contexto es computacionalmente costoso y a menudo innecesario, ya que solo componentes específicos pueden requerir adaptación.

La pregunta central abordada es: ¿A qué resolución debe reutilizarse una habilidad recuperada? Los autores argumentan que las habilidades rara vez son uniformemente útiles o inútiles; los planes de alto nivel pueden coincidir mientras que los pasos de bajo nivel no, o viceversa.

Metodología: El Marco SkillLens

SkillLens propone un marco evolutivo de habilidades jerárquico que organiza las habilidades en un grafo de cuatro capas y las recupera/adapta con granularidad mixta.

1. Grafo Jerárquico de Habilidades

La biblioteca de habilidades $S$ se estructura como un grafo $G = (S, E)$ con cuatro capas de abstracción, adaptadas de marcos de opciones y planificación HTN:

1. Política ($\ell=1$): Enruta las tareas hacia estrategias aguas abajo.
2. Estrategia ($\ell=2$): Proporciona planes de horizonte largo.
3. Procedimiento ($\ell=3$): Procedimientos Operativos Estándar (SOP) reutilizables con lógica de ramificación y reintento.
4. Primitiva ($\ell=4$): Unidades ejecutables atómicas (llamadas a herramientas, acciones de entorno).

Las aristas conectan capas adyacentes (padre-hijo) y hermanos (laterales), ponderadas por similitud semántica y relaciones estructurales.

2. Adaptación de Granularidad Mixta (Tiempo de Inferencia)

Dada una consulta de tarea $Q$, SkillLens construye un contexto de habilidades compacto $K(Q)$ mediante un proceso de dos etapas:

• Recuperación de Semillas y Expansión: Recupera las $K$ semillas de incrustación superiores y las expande mediante una paseo aleatorio corregido por grado sobre el grafo de habilidades para identificar candidatos procedimentalmente relacionados.
• Recorrido Impulsado por Verificador: Un verificador $V_\phi$ recorre recursivamente el subárbol de descomposición de candidatos parcialmente relevantes. Para cada unidad $u$, el verificador decide una de cuatro acciones:
  • ACEPTAR: La unidad es compatible; retenerla y detener el recorrido de su subárbol.
  • DESCOMPOSER: La unidad es demasiado gruesa; expandir a sus hijos para una evaluación adicional.
  • REESCRIBIR: La unidad es útil pero no coincide; un escritor $W_\phi$ la adapta localmente.
  • SALTAR: La unidad es irrelevante; descartarla.

El contexto final $K(Q)$ se compone únicamente de unidades aceptadas y reescritas localmente, asegurando que el agente reciba un contexto específico de la tarea en lugar de un bloque recuperado completo.

3. Refinamiento Evolutivo de Registro Dual

SkillLens acopla la adaptación en tiempo de inferencia con el refinamiento en tiempo de evolución utilizando dos registros acoplados:

• Registro de Agente ($S$): El conocimiento procedimental consultado por el agente.
• Registro de Verificador ($S_V$): Parametriza la política de enrutamiento (cuándo ACEPTAR/DESCOMPOSER/REESCRIBIR/SALTAR).

Proceso:

1. Construcción de Informe de Brechas: Las trayectorias fallidas en un conjunto de división de evolución se analizan para registrar tipos de errores, rutas de recorrido y decisiones de enrutamiento.
2. Actualización Acoplada: El escritor $W_\phi$ propone ediciones a los registros basadas en informes de brechas. El registro de verificador $S_V$ se actualiza primero para refinar las decisiones de enrutamiento. Luego, el registro de agente $S$ se induce a partir de estas decisiones de enrutamiento (materializando las ediciones procedimentales necesarias).
3. Objetivo: El sistema maximiza iterativamente un objetivo $J(S) = \mathbb{E}[M(Y, O_S(Q)) - C(Q, S)]$, equilibrando la precisión de la tarea ($M$) contra el costo de inferencia ($C$).

4. Garantías Teóricas

El artículo proporciona tres resultados teóricos clave:

• Costo Sublineal: Bajo suposiciones de desajuste disperso, el costo de adaptación es sublineal ($o(n)$) en relación con el tamaño del árbol de habilidades recuperado, ya que el verificador evita recorrer subárboles compatibles.
• Mejora Monótona: La regla de actualización evolutiva garantiza una mejora monótona del objetivo de validación hasta alcanzar un óptimo local.
• Garantía de Aproximación: El algoritmo compuesto (recuperación + reescritura) proporciona una garantía de aproximación de $(1 - 1/e)$ para el objetivo sustituto, acotada por errores en la recuperación, la puntuación del paseo aleatorio y el enrutamiento del verificador.

Contribuciones Clave

1. Formulación: La reutilización de habilidades se reformula como un problema de selección y adaptación de contexto, avanzando más allá de la inyección plana de prompts hacia la identificación y composición de subpartes útiles del conocimiento recuperado.
2. Marco: Introducción de SkillLens, un marco consciente de la resolución que utiliza recuperación jerárquica, descomposición guiada por verificador y adaptación localizada. Esto permite reutilizar habilidades parcialmente relevantes con la granularidad adecuada.
3. Evidencia: Análisis teórico que muestra costos sublineales y convergencia monótona, junto con evidencia empírica de mayor eficiencia y rendimiento.

Resultados Experimentales

El marco se evaluó en MuLocbench (localización de errores a nivel de repositorio) y ALFWorld (tareas de texto interactivas de horizonte largo).

• MuLocbench: SkillLens logró el mejor Acc@1 en todas las granularidades:
  • Nivel de Archivo: 61.13% (vs. 58.87% línea base).
  • Nivel de Módulo: 59.26% (vs. 55.56% línea base).
  • Nivel de Función: 43.68% (vs. 37.37% línea base).
  • Observación: Las ganancias fueron más pronunciadas en granularidades más finas (nivel de función), donde la inyección de habilidades completas es más propensa a ser demasiado gruesa.
• ALFWorld: SkillLens aumentó la tasa de éxito general del 45.00% (Vanilla) al 51.31%, superando a las líneas base de habilidades planas (AutoSkill, EvoSkill) en 4.17 puntos porcentuales.
• Estudios de Ablación:
  • RWR Corregido por Grado: Eliminar el paseo aleatorio redujo el rendimiento, confirmando que la propagación en el grafo pone de manifiesto habilidades estructuralmente relevantes pero textualmente distantes.
  • Reescritura Selectiva: La estrategia propuesta de profundización selectiva superó a las líneas base de "reescritura total" y "solo padre" mientras utilizaba significativamente menos tokens (16.4M vs. 115.5M para "reescritura total") y menos tiempo.

Significado y Afirmaciones

El artículo afirma que SkillLens aborda una limitación estructural en los sistemas agénticos actuales: la incapacidad de reutilizar habilidades en diversas resoluciones. Al tratar las habilidades como objetos procedimentales jerárquicos en lugar de bloques atómicos, SkillLens permite a los agentes:

• Reutilizar subhabilidades compatibles directamente sin modificación.
• Adaptar solo componentes localmente desajustados, reduciendo costos de tokens y riesgos de alucinación.
• Evolucionar simultáneamente el contenido procedimental y la lógica de enrutamiento, lo que conduce a bibliotecas de habilidades más robustas con el tiempo.

Los autores enfatizan que estos beneficios son más críticos para tareas que requieren uso de habilidades composicional o de granularidad fina, donde el enfoque "todo o nada" de los sistemas existentes falla en capturar el matiz de la relevancia parcial. Se señala que el trabajo futuro extenderá esto a configuraciones multimodales y entornos multiagente.