When Should AI Follow? Task Structure and Joint Adaptation by Human and AI Agents

Resumo Técnico: "Quando o IA Deve Seguir? Estrutura de Tarefa e Adaptação Conjunta por Agentes Humanos e de IA"

Definição do Problema
À medida que a inteligência artificial (IA) assume papéis consequentes na tomada de decisão organizacional, uma questão crítica de design permanece sem resolução: como as tarefas de decisão devem ser divididas e sequenciadas entre agentes humanos e artificiais? Embora a prática tenha convergido para um modelo padrão "IA-primeiro" — onde a IA gera opções amplas para seleção humana — as implicações de desempenho desta arquitetura versus alternativas (ex: humano-primeiro ou busca paralela) são raramente examinadas frente às realidades estruturais do acoplamento de tarefas e da adaptação dos agentes. A literatura existente em ciência das organizações enfatiza que a arquitetura de decisão importa tanto quanto a capacidade individual, e a literatura de economia da IA localiza a questão do deslocamento versus complementaridade no nível da tarefa. No entanto, falta um aparato formal transparente para estudar como o sequenciamento e o acoplamento moldam o desempenho conjunto quando os agentes humanos e de IA se adaptam de formas distintas ao longo do tempo.

Metodologia
Os autores desenvolvem um modelo computacional de adaptação sequencial conjunta, situado na linhagem dos modelos NK/NKC, mas desenvolvido como um framework de adaptação sequencial distinto. O modelo reduz o contraste humano-IA a uma única diferença precisamente especificada: o regime de memória que governa como as decisões passadas moldam as subsequentes.

• Arquétipos de Agentes:

  • Arquétipo Humano (Ponderação por Recência): Motivado por evidências comportamentais (ex: Levinthal e March 1981; Gigerenzer e Gaissmaier 2011), este agente pondera desproporcionalmente os resultados recentes. A próxima decisão é determinada por uma média ponderada dos $K$ estados mais recentes, onde os pesos aumentam linearmente com a recência. Isso representa uma adaptação rápida e dependente de escala.
  • Arquétipo de IA (Memória Uniforme): Motivado pela consistência livre de escala da atualização algorítmica (ex: Nishant et al. 2024), este agente aplica pesos iguais a todas as decisões dentro de sua janela de memória. Isso representa uma adaptação lenta e preservadora da história.
  • Adaptação Estocástica Sem Memória: Um terceiro regime onde o agente condiciona a nenhuma história (sorteios aleatórios), usado para modelar a exploração de máquina desterrada (distinto de alucinação de IA).

• Estrutura da Tarefa:

  • Escopo ($N$): O número de subdecisões binárias em uma sequência de tarefas. O modelo impõe $N_{IA} > N_H$ para refletir a capacidade da máquina para sequências mais longas.
  • Profundidade de Acoplamento ($K$): O número de decisões realizadas precedentes que condicionam a próxima decisão (dependência de caminho sequencial dentro de uma tarefa).
  • Acoplamento Entre Agentes ($C$): O número de estados realizados upstream herdados pelo agente downstream.
  • Configurações: O modelo testa estruturas Modulares ($C=0$, adaptação independente) e Sequenciadas ($C>0$), especificamente IA→H (IA lidera, humano segue) e H→IA (humano lidera, IA segue).

• Mecanismo:
  O motor central é uma dinâmica de limiar. Os agentes comparam uma média ponderada de estados passados contra um limiar (0,5). Se a média estiver acima do limiar, a próxima decisão tende a ser 1 (sucesso); se abaixo, 0 (falha). Isso cria regimes absorventes: uma vez que uma trajetória entra em um estado de alto ou baixo rendimento, o regime de memória determina se ela amplifica esse estado ou se consegue escapar dele.

Principais Resultados
Os resultados são organizados por três mecanismos derivados das dinâmicas de limiar:

1. Estruturas Modulares (Busca Paralela):

   • O rendimento conjunto é curvilíneo (em forma de U invertido) em relação à razão de escopo ($N_{IA}/N_H$), atingindo o pico em assimetria moderada ($N_{IA}/N_H \approx 5$).
   • O desempenho é maximizado quando o agente do arquétipo humano (ponderação por recência) é atribuído a uma tarefa de acoplamento raso ($K_H$). O acoplamento profundo faz com que a ponderação por recência se degrade em viés de recência.
   • Configurações de regimes mistos podem superar pares de regime puro (complementaridade) ao implantar cada regime onde a fraqueza do outro seria limitante.

2. Estruturas Sequenciadas (IA→H):

   • Os ganhos diminuem à medida que o acoplamento entre agentes ($C$) se aprofunda. Quando $C$ é grande, a adaptação ponderada por recência do agente humano descarta estruturalmente a maior parte da história herdada, convertendo a responsividade humana em viés.
   • Esta arquitetura sofre de "desperdício de busca", onde a máquina gera soluções intermediárias amplas que o regime humano downstream não consegue utilizar devido ao seu viés de recência.

3. Estruturas Sequenciadas (H→IA):

   • Upstream de Alto Desempenho: Quando um humano de alto desempenho lidera, a adaptação de memória uniforme downstream produz os maiores rendimentos conjuntos observados. O agente de IA amplifica fielmente a herança de alta qualidade, compounding o sucesso. Esta vantagem é mais forte sob acoplamento profundo, mas atenua conforme o escopo downstream cresce (decaimento de memória).
   • Upstream de Baixo Desempenho: Quando a trajetória humana upstream é ruim (absorvida em um regime de baixo rendimento), a adaptação estocástica sem memória supera a adaptação de memória uniforme. O regime sem memória rompe a dependência de caminho, permitindo que o sistema escape da armadilha de baixo rendimento herdada, enquanto a memória uniforme entranharia fielmente o fracasso.

Ordenação Comparativa
O modelo estabelece uma clara hierarquia de desempenho:

1. H→IA (Humano de alto desempenho upstream): A arquitetura dominante global. O refinamento da máquina potencializa a qualidade humana.
2. IA→H: Dominada pela arquitetura H→IA devido ao desperdício de busca e ao viés de recência do humano downstream.
3. H→IA (Humano de baixo desempenho upstream): Superada pelo caso H→IA (humano de alto desempenho), mas pode ser resgatada pela exploração sem memória, que supera o refinamento uniforme neste contexto específico.

Validação Experimental
Os autores realizaram um experimento de prova de conceito no domínio da predição de retorno de anúncios de fusões e aquisições (M&A).

• Especialista Primeiro (Caso 2): Humano seleciona variáveis (upstream); máquina ajusta a forma funcional (downstream).
• Brute-Force Máquina-Primeiro (Caso 1): Máquina busca todas as variáveis/interações; humano filtra downstream.
• Novato (Caso 3): Sem julgamento informado; máquina busca tudo.
• Resultado: A arquitetura Especialista-Primeiro transferiu melhor para dados fora da amostra. A abordagem Brute-Force sofreu de overfitting (ajuste ao ruído passado), e a configuração Novato teve o pior desempenho. Isso valida empiricamente a ordenação do modelo: a busca da máquina cria mais valor quando segue o julgamento humano informado.

Significância e Contribuições
O artigo reivindica três contribuições principais:

1. Fundação Teórica: Propõe uma base estreita e defensável para a colaboração humano-IA: o regime de memória da adaptação e sua estabilidade sob escala. Isso move o debate além do díptico insustentável de "heurística vs. baseada em regras" para um continuum de "aprendizado rápido vs. lento".
2. Alavancas de Design: Estabelece o sequenciamento e o acoplamento entre agentes como alavancas de design de primeira ordem. Desafia a presunção predominante de "IA-primeiro", demonstrando que uma arquitetura de "IA-segue" (especificamente seguindo um humano de alto desempenho) é superior porque a memória uniforme atua como um amplificador de herança de alta qualidade, enquanto a ponderação por recência atua como um filtro que descarta a busca ampla da máquina.
3. Reinterpretação da Exploração: Reenquadra a exploração ampla e sem memória não como uma patologia (alucinação), mas como um mecanismo de escape sistemático. Seu valor é contingente: é a escolha de design ideal apenas quando a trajetória herdada é ruim, servindo como um remédio implantável para arquiteturas com baixa capacidade humana upstream.

Limitações e Condições de Contorno
Os autores delimitam explicitamente suas afirmações:

• Arquétipos, não Descrições: Os modelos são contrastes estilizados de regimes de memória, não descrições exaustivas da cognição humana ou dos sistemas de IA atuais (que possuem fronteiras de capacidade irregulares).
• Sem Custos de Busca: A busca é sem custo no modelo; introduzir custos provavelmente enviesaria os resultados ainda mais contra a excessiva amplitude.
• Payoffs Aditivos: O modelo utiliza payoffs aditivos e não pode capturar sinergias super-aditivas ou topologias de paisagens irregulares (epistasia) encontradas em modelos NK canônicos.
• Agência Mínima: O agente de IA segue uma regra fixa e não possui formação de objetivos ou capacidades de orquestração de ferramentas.

O artigo conclui que o ato central de design organizacional na colaboração humano-IA é escolher o que a máquina herda, pois a propriedade comportamental definidora da máquina é a amplificação dessa herança.