Resumen Técnico: Más No Siempre Es Mejor: Interferencia entre Componentes en el Andamiaje de Agentes LLM

Declaración del Problema

El paradigma estándar para la construcción de agentes de Modelos de Lenguaje Grande (LLM) implica "andamiaje": aumentar un modelo base con una pila de componentes funcionales como módulos de planificación, interfaces de herramientas, memoria, autorreflexión y recuperación. La suposición predominante en el campo es que añadir más componentes mejora el rendimiento ("más es mejor"). Este trabajo desafía esa suposición investigando la Interferencia entre Componentes (CCI): el fenómeno donde combinar componentes de andamiaje resulta en rendimientos marginales negativos, provocando que el sistema completo "Todo en Uno" tenga un rendimiento inferior al de subconjuntos específicos de dichos componentes.

Metodología

Los autores realizaron un estudio empírico sistemático de diseño factorial completo para mapear el paisaje de interacción de los componentes de los agentes.

• Diseño Experimental: Un diseño factorial completo sobre todos los $2^5 = 32$ subconjuntos de cinco componentes canónicos de andamiaje:
  1. Planificación (P): Descomposición de tareas en subobjetivos.
  2. Uso de Herramientas (T): Interfaces de llamada a funciones.
  3. Memoria (M): Memoria de trabajo estructurada.
  4. Razonamiento Estructurado (SR): Formateo de cadena de pensamiento.
  5. Reflexión (R): Prompts de autoevaluación.
• Benchmarks y Modelos: Los experimentos se realizaron en dos benchmarks: HotpotQA (razonamiento multi-salto, enfocado en recuperación) y GSM8K (razonamiento matemático). El estudio abarcó tres familias de modelos y cinco escalas:
  • Llama-3.1 (8B, 70B)
  • Qwen2.5 (3B, 7B)
  • Claude Haiku 4.5 (vía AWS Bedrock)
• Escala: El estudio involucró 118 configuraciones controladas y más de 32,000 evaluaciones. Las configuraciones clave se validaron a través de 10 semillas aleatorias (16,000 evaluaciones en HotpotQA/8B).
• Análisis Estadístico: Los autores emplearon pruebas t pareadas, pruebas de rangos con signo de Wilcoxon, análisis bayesiano (priors JZS) y medidas de tamaño del efecto ($d_z$ de Cohen). Utilizaron la descomposición exacta de valores Shapley para atribuir valor a los componentes y probaron violaciones de submodularidad. Se ajustaron modelos de regresión (efectos principales vs. interacción por pares) para caracterizar la estructura de interacción.

Resultados Clave

1. Prevalencia de la Interferencia entre Componentes (CCI)

En cada configuración probada, el subconjunto propio de componentes mejor coincidió o superó el rendimiento del sistema completo "Todo en Uno".

• HotpotQA (Llama-3.1-8B): El agente de herramienta única (solo Uso de Herramientas) superó significativamente al sistema Todo en Uno de 5 componentes en un 32% (F1 0.233 vs. 0.177; $p=0.023$). Añadir cualquier componente a la línea base de Uso de Herramientas degradó el rendimiento en 5 de 6 expansiones.
• GSM8K (Llama-3.1-8B): La configuración óptima requirió tres componentes (Uso de Herramientas + Razonamiento Estructurado + Reflexión), logrando un 79% mayor precisión que el sistema Todo en Uno (0.43 vs. 0.24).
• Conteo Óptimo ($k^*$): El número óptimo de componentes depende de la tarea ($k^*=1$ para HotpotQA, $k^*=3$ para GSM8K) y es sensible a la escala.

2. Dependencia de la Escala y el Modelo

La severidad de la CCI sigue un gradiente de capacidad:

• Modelos de 8B: La CCI es fuerte y omnipresente.
• Modelos de 70B: La CCI se atenúa pero persiste. En HotpotQA, la brecha entre el mejor subconjunto y Todo en Uno se redujo del 32% (8B) al 19% (70B). Cabe destacar que la dirección de la interferencia se invirtió para algunos componentes (por ejemplo, añadir Reflexión ayudó en 70B pero perjudicó en 8B), sin embargo, el sistema Todo en Uno aún no superó al mejor subconjunto.
• Claude Haiku 4.5: La CCI se saturó a niveles dentro del ruido. Aunque el sistema Todo en Uno no fue peor que subconjuntos más simples, los componentes adicionales más allá del Uso de Herramientas contribuyeron virtualmente nada (ganancia del 0.2%), indicando un "plateau" donde la complejidad produce rendimiento marginal cero.

3. Análisis Estructural y Modelos de Interacción

• Dominio de los Efectos Principales: Un modelo de regresión de efectos principales de 6 parámetros explicó el 91.6% de la varianza ($R^2=0.916$), superando decisivamente a un modelo de interacción por pares de 16 parámetros ($\Delta BIC = 25.3$). Esto sugiere que la CCI es en gran medida aditiva; los componentes imponen un costo o beneficio marginal relativamente constante independientemente del contexto.
• Valores Shapley: El Uso de Herramientas capturó el 70% del valor total del andamiaje. Por el contrario, la Planificación tuvo un valor Shapley significativamente negativo ($\phi = -0.029$), y la Memoria fue direccionalmente negativa en HotpotQA.
• No-Submodularidad: El estudio encontró 183 violaciones de submodularidad de 325 ternas testeables (56.3%). La relación de submodularidad mediana fue $\gamma_{med} = 0.52$. Crucialmente, el 90% de las principales violaciones exhibieron cambio de signo: componentes que eran perjudiciales por sí solos se volvieron beneficiosos en combinaciones específicas (por ejemplo, el Razonamiento Estructurado perjudicó al Uso de Herramientas solo, pero ayudó cuando se combinó con Planificación y Reflexión). Esto hace que las estrategias de selección voraz sean empíricamente poco fiables.

4. Robustez

• Replicación entre Familias: El patrón cualitativo (el Uso de Herramientas domina, Todo en Uno es subóptimo) se replicó en las familias Qwen2.5 y Llama.
• Robustez de Plantillas: El hallazgo central se mantuvo a través de tres variantes de plantillas de prompts semánticamente equivalentes, aunque las clasificaciones de configuración detallada fueron sensibles a la redacción.
• Control de Longitud: Los componentes reales superaron al relleno sin sentido emparejado por longitud de 6 a 9 veces, confirmando que la CCI es impulsada por el contenido semántico, no por la cantidad de tokens.

Significado y Afirmaciones

El trabajo afirma que la suposición "más es mejor" es sistemáticamente incorrecta para el andamiaje basado en prompts. Los autores argumentan que:

1. Los Valores Predeterminados de los Practicantes son Defectuosos: El valor predeterminado de desplegar agentes equipados al máximo conduce a una degradación del rendimiento debido a la interferencia.
2. Se Requiere Selección Específica de la Tarea: El diseño óptimo del agente requiere seleccionar subconjuntos específicos de la tarea informados por un análisis consciente de las interacciones en lugar de apilar todos los módulos disponibles.
3. La Selección Voraz Falla: Debido al cambio de signo y la no-submodularidad, añadir componentes uno por uno hasta que los rendimientos marginales se vuelvan negativos es una estrategia poco fiable para encontrar la configuración óptima del agente.
4. Mecanismo: El trabajo identifica la CCI como una forma de "congestión de la ventana de contexto" (un análogo en tiempo de inferencia al conflicto de gradientes en el aprendizaje multi-tarea), donde los componentes compiten por la atención o diluyen señales, aunque el mecanismo causal exacto sigue siendo una pregunta abierta.

El estudio concluye que, aunque los modelos más grandes (70B+) y los modelos propietarios altamente capaces (Claude Haiku) pueden tolerar combinaciones de componentes más amplias, el andamiaje más simple y adecuado coincide o supera consistentemente al agente completo en todas las escalas probadas.