Tree-Based Formalization of Multi-Agent Complementarity in Human-AI Interactions

Resumen Técnico: Formalización Basada en Árboles de la Complementariedad Multiagente en las Interacciones Humano-IA

Planteamiento del Problema
La complementariedad en la Interacción Humano-IA (HAI, por sus siglas en inglés) se define como el fenómeno en el que un equipo humano-IA supera al mejor predictor independiente disponible entre sus miembros. Aunque es central para la investigación en HAI, el trabajo formal sobre la complementariedad se ha limitado principalmente a entornos de dos agentes (un humano, una IA). Los marcos existentes no logran modelar cómo las predicciones se componen en protocolos de flujo de trabajo sensibles a la secuencia. Los escenarios del mundo real suelen implicar flujos de trabajo complejos con múltiples agentes (por ejemplo, expertos, asistentes, herramientas de IA) que interactúan de forma secuencial o paralela. La literatura actual carece de una teoría formal que describa cómo el orden de los agentes, las reglas de interacción local y la topología de estas interacciones afectan la capacidad de lograr la complementariedad.

Metodología
El artículo introduce una formalización basada en árboles de la complementariedad para la HAI multiagente. Los componentes centrales de este marco son:

1. Representación del Protocolo: Un protocolo de HAI multiagente se modela como una configuración de roles de agentes ordenada combinada con un árbol binario plano con raíz. Las hojas del árbol están decoradas con los vectores de predicción de los agentes, lo que representa el orden en que los agentes entran en el flujo de trabajo.
2. Composición Local: La interacción está gobernada por una regla de composición binaria local ($m_2$) evaluada recursivamente en cada nodo interno del árbol. Esta regla combina dos vectores de predicción en uno, propagando las salidas intermedias hasta generar una predicción final en la raíz.
3. Funcional de Complementariedad: Los autores definen un funcional de complementariedad relativo al árbol ($\Psi$). A diferencia de los benchmarks agregados previos que comparan la pérdida promedio del equipo con la pérdida del mejor agente individual, este marco utiliza un benchmark de oráculo de mínimo puntual.
   • $\Psi = \Phi - \Theta$, donde $\Phi$ es el promedio de las pérdidas mínimas puntuales de todos los agentes (la mejor predicción disponible en cada punto de datos específico), y $\Theta$ es la pérdida promedio de la salida final del protocolo.
   • Este benchmark es más estricto: pregunta si el protocolo mejora la mejor predicción disponible caso por caso, en lugar de solo en promedio.

Contribuciones Clave y Resultados

El artículo demuestra cuatro resultados teóricos primarios respecto a la capacidad de alcanzar la complementariedad bajo esta formalización:

1. Imposibilidad de la Complementariedad Basada en la Dependencia (Reliance):
   Los autores demuestran que las reglas de selección (donde la salida es estrictamente uno de los elementos de entrada, por ejemplo, dependencia del humano o de la IA) no pueden lograr la complementariedad respecto al oráculo de mínimo puntual, independientemente de la tarea, la función de pérdida o la calidad de la predicción. Si la salida de la interacción es simplemente una selección de la predicción de un agente existente, no puede superar estrictamente la mejor predicción disponible en cada punto. La complementariedad requiere generar salidas que no sean seleccionadas del conjunto de predicciones de los agentes.

2. Regresión bajo Pérdida Cuadrática:
   En el contexto de la regresión con pérdida cuadrática, el funcional de complementariedad admite una interpretación geométrica. Maximizar la complementariedad es equivalente a minimizar la distancia euclidiana entre el vector de salida del protocolo y el vector de verdad fundamental (ground-truth).

   • Para $N=2$ (Humano e IA), los autores derivan un optimizador de forma cerrada para los pesos de agrupación lineal. La complementariedad se logra si y solo si la dirección de desacuerdo humano-IA corrige el error residual de la IA con respecto a la verdad fundamental, y la corrección es lo suficientemente grande como para situar la combinación lineal óptima dentro del segmento factible.
   • Para $N \ge 3$, el marco analiza cómo diferentes topologías de árbol afectan la complementariedad.

3. Invarianza de Protocolo y Cubiertas de Tamari:
   Bajo la agrupación lineal, cada árbol de protocolo define un mapa de coordenadas baricéntricas en el simplex de los pesos de las hojas. Los autores demuestran que las reparametrizaciones de cobertura de Tamari (rotaciones locales de árboles) preservan los niveles de complementariedad cuando los parámetros locales se transportan apropiadamente.

   • Específicamente, para $N=4$, las reparametrizaciones satisfacen la identidad del pentágono, lo que indica una estructura algebraica coherente subyacente al espacio de los árboles de protocolo. Esto sugiere que distintas topologías de flujo de trabajo pueden lograr niveles idénticos de complementariedad si sus parámetros de agregación local se ajustan para mantener las mismas coordenadas baricéntricas.

4. Imposibilidad en Clasificación Binaria:
   El artículo establece un fuerte resultado de imposibilidad para la clasificación binaria bajo pérdidas de monotonía de extremo (que incluyen las divergencias de Bregman estándar y las divergencias $f$ de Bernoulli finitas, como la entropía cruzada binaria).

   • Ninguna regla de composición interna local (donde la probabilidad de salida se sitúa estrictamente entre las probabilidades de entrada) puede lograr la complementariedad respecto al oráculo de mínimo puntual.
   • Esta obstrucción se extiende a los problemas multiclase bajo entropía cruzada. Los autores señalan que escapar de este régimen requiere reglas no internas, como la amplificación mediante el agrupamiento de logits (logit pooling).

Significancia y Reivindicaciones
El artículo sostiene que su marco cambia fundamentalmente la investigación de la complementariedad al distinguir entre los regímenes de regresión y clasificación:

• Alcanzabilidad: La complementariedad es matemáticamente alcanzable en la regresión multiagente, siempre que la interacción genere nuevas predicciones que corrijan los residuales de una manera geométricamente favorable.
• Obstrucción: Bajo condiciones naturales de agregación local (reglas internas) y funciones de pérdida (monotonía de extremo), la complementariedad está obstruida en los entornos de clasificación cuando se mide contra un oráculo de mínimo puntual.

Los autores argumentan que si el oráculo de mínimo puntual es el benchmark apropiado para entornos de HAI de alto riesgo (donde los errores a nivel de caso son críticos, como en el diagnóstico médico o el apoyo judicial), las investigaciones empíricas de la complementariedad deben ser revisadas. Los resultados sugieren que los mecanismos simples de dependencia o la agregación interna estándar en tareas de clasificación pueden ser teóricamente incapaces de lograr una verdadera complementariedad, lo que requiere protocolos de interacción más complejos o reglas de agregación no estándar. El marco proporciona las herramientas matemáticas necesarias para analizar estos protocolos, yendo más allá de los modelos simplificados de dos agentes que dominan la literatura actual.