When Should AI Follow? Task Structure and Joint Adaptation by Human and AI Agents

Resumen Técnico: "¿Cuándo debe seguir la IA? Estructura de la tarea y adaptación conjunta de agentes humanos e IA"

Planteamiento del problema
A medida que la inteligencia artificial (IA) asume roles trascendentales en la toma de decisiones organizacionales, una pregunta de diseño crítica permanece sin resolver: ¿cómo deben dividirse y secuenciarse las tareas de decisión entre agentes humanos y artificiales? Si bien la práctica ha convergido en un modelo predeterminado de "primero la IA" —donde la IA genera opciones amplias para la selección humana—, las implicaciones de rendimiento de esta arquitectura frente a otras alternativas (por ejemplo, primero el humano o búsqueda paralela) rara vez se examinan frente a las realidades estructurales del acoplamiento de tareas y la adaptación de los agentes. La literatura existente en ciencia de las organizaciones enfatiza que la arquitectura de decisión es tan importante como la capacidad individual, y la literatura económica sobre la IA localiza la cuestión del desplazamiento frente a la complementariedad a nivel de tarea. Sin embargo, falta un aparato formal transparente para estudiar cómo la secuenciación y el acoplamiento moldean el rendimiento conjunto cuando los agentes humanos y de IA se adaptan de manera diferente a lo largo del tiempo.

Metodología
Los autores desarrollan un modelo computacional de adaptación secuencial conjunta, situado en la estirpe de los modelos NK/NKC pero desarrollado como un marco de adaptación secuencial distinto. El modelo reduce el contraste humano-IA a una única diferencia precisamente especificada: el régimen de memoria que gobierna cómo las decisiones pasadas moldean las subsiguientes.

• Arquetipos de Agentes:

  • Arquetipo Humano (Ponderación por Recencia): Motivado por evidencia conductual (por ejemplo, Levinthal y March 1981; Gigerenzer y Gaissmaier 2011), este agente pondera los resultados recientes de manera desproporcionada. La siguiente decisión se determina mediante un promedio ponderado de los $K$ estados más recientes, donde los pesos aumentan linealmente con la recencia. Esto representa una adaptación rápida y dependiente de la escala.
  • Arquetipo de IA (Memoria Uniforme): Motivado por la consistencia independiente de la escala de la actualización algorítmica (por ejemplo, Nishant et al. 2024), este agente aplica pesos iguales a todas las decisiones dentro de su ventana de memoria. Esto representa una adaptación lenta y preservadora de la historia.
  • Adaptación Estocástica sin Memoria: Un tercer régimen donde el agente se condiciona a ninguna historia (extracciones aleatorias), utilizado para modelar la exploración de la máquina sin ataduras (distinto de la alucinación de la IA).

• Estructura de la Tarea:

  • Alcance ($N$): El número de subdecisiones binarias en una secuencia de tareas. El modelo impone $N_{IA} > N_H$ para reflejar la capacidad de la máquina para secuencias más largas.
  • Profundidad de Acoplamiento ($K$): El número de decisiones realizadas precedentes que condicionan la siguiente decisión (dependencia de la trayectoria secuencial dentro de una tarea).
  • Acoplamiento entre Agentes ($C$): El número de estados realizados ascendentes heredados por el agente descendente.
  • Configuraciones: El modelo prueba estructuras Modulares ($C=0$, adaptación independiente) y Secuenciadas ($C>0$), específicamente IA $\to$ H (la IA lidera, el humano sigue) y H $\to$ IA (el humano lidera, la IA sigue).

• Mecanismo:
  El motor central es una dinámica de umbral. Los agentes comparan un promedio ponderado de estados pasados contra un umbral (0.5). Si el promedio está por encima del umbral, la siguiente decisión tiende a ser 1 (éxito); si está por debajo, 0 (fracaso). Esto crea regímenes de absorción: una vez que una trayectoria entra en un estado de alto rendimiento o bajo rendimiento, el régimen de memoria determina si amplifica ese estado o si puede escapar de él.

Resultados Clave
Los resultados se organizan en tres mecanismos derivados de las dinámicas de umbral:

1. Estructuras Modulares (Búsqueda Paralela):

   • El beneficio conjunto es curvilíneo (forma de U invertida) respecto a la relación de alcance ($N_{IA}/N_H$), alcanzando su máximo en una asimetría moderada ($N_{IA}/N_H \approx 5$).
   • El rendimiento se maximiza cuando el agente del arquetipo humano (ponderación por recencia) tiene asignada una tarea con acoplamiento superficial ($K_H$). El acoplamiento profundo causa que la ponderación por recencia se degrade en un sesgo de recencia.
   • Las configuraciones de régimen mixto pueden superar a los pares de régimen puro (complementariedad) al desplegar cada régimen donde la debilidad del otro sería limitante.

2. Estructuras Secuenciadas (IA $\to$ H):

   • Las ganancias se atenúan a medida que el acoplamiento entre agentes ($C$) se profundiza. Cuando $C$ es grande, la adaptación ponderada por recencia del agente humano descarta estructuralmente la mayor parte de la historia heredada, convirtiendo la capacidad de respuesta del humano en un sesgo.
   • Esta arquitectura sufre de "desperdicio de búsqueda", donde la máquina genera soluciones interinas amplias que el régimen humano descendente no puede utilizar debido a su sesgo de recencia.

3. Estructuras Secuenciadas (H $\to$ IA):

   • Ascendente de Alto Rendimiento: Cuando un humano de alto rendimiento lidera, la adaptación de memoria uniforme del agente descendente produce los mayores beneficios observados. La IA amplifica fielmente la herencia de alta calidad, capitalizando el éxito. Esta ventaja es más fuerte bajo un acoplamiento profundo pero se atenúa a medida que el alcance descendente crece (desvanecimiento de la memoria).
   • Ascendente de Bajo Rendimiento: Cuando la trayectoria humana ascendente es deficiente (absorbida en un régimen de bajo rendimiento), la adaptación estocástica sin memoria supera a la adaptación de memoria uniforme. El régimen sin memoria corta la dependencia de la trayectoria, permitiendo que el sistema escape de la trampa de bajo rendimiento heredada, mientras que la memoria uniforme la consolidaría fielmente.

Orden Comparativo
El modelo establece una clara jerarquía de rendimiento:

1. H $\to$ IA (Humano de alto rendimiento ascendente): La arquitectura globalmente dominante. El refinamiento de la máquina capitaliza la calidad humana.
2. IA $\to$ H: Dominada por la arquitectura H $\to$ IA debido al desperdicio de búsqueda y al sesgo de recencia en el humano descendente.
3. H $\to$ IA (Humano de bajo rendimiento ascendente): Superada por el caso H $\to$ IA (humano de alto rendimiento), pero puede ser rescatada por la exploración sin memoria, que supera a la refinación de memoria uniforme en este contexto específico.

Validación Experimental
Los autores realizaron un experimento de prueba de concepto en el dominio de la predicción de retornos de anuncios de fusiones y adquisiciones (M&A).

• Experto Primero (Caso 2): El humano cura las variables (ascendente); la máquina ajusta la forma funcional (descendente).
• Fuerza Bruta de la Máquina Primero (Caso 1): La máquina busca todas las variables/interacciones; el humano filtra (descendente).
• Novato (Caso 3): Sin juicio informado; la máquina busca todo.
• Resultado: La arquitectura de Experto Primero se transfirió mejor a los datos fuera de la muestra. El enfoque de Fuerza Bruta sufrió de sobreajuste (ajustándose al ruido pasado), y la configuración de Novato fue la que peor funcionó. Esto valida empíricamente el orden del modelo: la búsqueda de la máquina crea más valor cuando sigue al juicio humano informado.

Significancia y Contribuciones
El artículo reclama tres contribuciones principales:

1. Fundamento Teórico: Propone una base estrecha y defendible para la colaboración humano-IA: el régimen de memoria de la adaptación y su estabilidad bajo la escala. Esto va más allá de la dicotomía insostenible de "heurística vs. basada en reglas" hacia un continuo de "aprendizaje rápido vs. lento".
2. Palancas de Diseño: Establece la secuenciación y el acoplamiento entre agentes como palancas de diseño de primer orden. Desafía la presunción prevalente de "primero la IA", demostando que una arquitectura de "la IA sigue" (específicamente siguiendo a un humano de alto rendimiento) es superior porque la memoria uniforme actúa como un amplificador de la herencia de alta calidad, mientras que la ponderación por recencia actúa como un filtro que descarta la amplia búsqueda de la máquina.
3. Reinterpretación de la Exploración: Replantea la exploración amplia y sin memoria de la máquina no como una patología (alucinación), sino como un mecanismo de escape sistemático. Su valor es contingente: es la elección de diseño óptima solo cuando la trayectoria heredada es deficiente, sirviendo como un remedio desplegable para arquitecturas con una capacidad humana ascendente débil.

Limitaciones y Condiciones de Contorno
Los autores delimitan explícitamente sus afirmaciones:

• Arquetipos, no Descripciones: Los modelos son contrastes estilizados de regímenes de memoria, no descripciones exhaustivas de la cognición humana o de los sistemas de IA actuales (que tienen fronteras de capacidad irregulares).
• Sin Costos de Búsqueda: La búsqueda no tiene costo en el modelo; introducir costos sesgaría aún más los resultados contra la amplitud excesiva.
• Pagos Aditivos: El modelo utiliza pagos aditivos y no puede capturar sinergias super-aditivas o topologías de paisajes accidentados (epistasis) que se encuentran en los modelos NK canónicos.
• Agencia Mínima: El agente de IA sigue una regla fija y no posee capacidades de formación de objetivos u orquestación de herramientas.

El artículo concluye que el acto central del diseño organizacional en la colaboración humano-IA es elegir qué hereda la máquina, ya que la propiedad de comportamiento definitoria de la máquina es la amplificación de esa herencia.