Position: AI Agents in Scientific Teams Should Be Studied as Human-Agent Systems

Resumo Técnico: Agentes de IA em Equipes Científicas Devem Ser Estudados como Sistemas Humano-Agente

Declaração do Problema
O artigo identifica uma lacuna crítica na literatura atual em relação aos "Cientistas de IA" baseados em Modelos de Linguagem de Grande Escala (LLM). Embora a pesquisa existente foque cada vez mais nas capacidades autônomas de agentes para realizar descobertas científicas, essa perspectiva negligencia amplamente as dinâmicas sociais e colaborativas inerentes ao trabalho em equipe científico. Os sistemas atuais frequentemente tratam a participação humana como limitada à definição de objetivos de alto nível e à verificação final, falhando em considerar a colaboração iterativa e conjunta típica das equipes humano-humanas. Os autores argumentam que estudar Cientistas de IA isoladamente ignora os "aspectos sociais do trabalho em equipe científico" e não aborda riscos de curto prazo, como a homogeneização da investigação científica e a redução da diversidade de tópicos, que surgem quando os agentes são implantados sem considerar as dinâmicas humano-agente.

Metodologia
Os autores empregam uma abordagem multifacetada combinando revisão de literatura, análise empírica e exame de estudo de caso através da lente dos Sistemas Humano-Agente (HAS).

1. Revisão de Literatura e Aplicação de Taxonomia: Os autores revisam sistemas recentes de Cientista de IA (ex: AI Scientist v2, Kosmos, Co-Scientist, Denario) e os categorizam com base no canal primário de feedback humano. Eles adotam uma taxonomia de Zou et al. (2025a) para analisar esses sistemas através de três dimensões:

   • Tipo: Avaliativo (avaliação de qualidade), Orientação (instruções/críticas) ou Corretivo (edições/correções).
   • Granularidade: Coarse/Grosseira (avaliação única para um output) ou Fina (feedback direcionado passo a passo).
   • Fase: Pré-tarefa (planejamento), Meio de tarefa (execução) ou Pós-tarefa (avaliação).
     A revisão revela que a maioria dos sistemas depende de feedback ao nível de artefato (pós-tarefa) ou ao nível de fase de descoberta (meio de tarefa), com pouquíssimos suportando intervenção flexível, assíncrona ou de granularidade fina.

2. Experimento Empírico Preliminar: Para testar o comportamento do agente em relação ao feedback, os autores conduziram um experimento usando um harness de agente baseado em ReAct com GPT-5-mini no benchmark AstaBench End-to-End Discovery (E2E). Eles compararam três condições:

   • Um agente focado em planejamento basal.
   • Um agente com uma ferramenta de "perguntar ao usuário" e uma taxonomia de feedback no prompt do sistema.
   • Um agente com instruções explícitas por etapa para sempre chamar a ferramenta "perguntar ao usuário".
     O estudo utilizou um LLM-como-juiz para classificar o tipo, a granularidade e a fase dos pedidos de feedback.

3. Análise de Estudo de Caso: Os autores analisaram relatos publicados de cientistas colaborando com agentes (ex: "Vibe-coding" de um resultado de teoria da complexidade com Gemini 3 Pro; redução de modelagem física com GPT-5) para ilustrar qualitativamente padrões de aumento mútuo e sinergia.

4. Modelagem Teórica: Os autores propõem um modelo de utilidade de brinquedo para HAS, definido como $U(H, A) = CA(H, A) - CD(H, A)$, onde $CA$ representa a vantagem de colaboração (complementaridade) e $CD$ representa a desvantagem de colaboração (custos de coordenação).

Principais Resultados

• Limitações de Feedback: A revisão de literatura indica que a maioria dos sistemas de Cientista de IA restringe a interação humana a papéis de supervisão (escopo, auditoria, aprovação) em vez de uma colaboração sustentada e iterativa. O feedback ao nível de artefato é o mais comum, enquanto o direcionamento assíncrono e a interrupção de granularidade fina são raros.
• Comportamento de Feedback do Agente: No experimento preliminar, o agente sem instruções explícitas por etapa falhou em saber quando pedir ajuda, muitas vezes fazendo suposições em situações ambíguas. Quando forçado a perguntar em cada etapa, o tipo dominante de feedback foi avaliativo (ocorrendo no meio da tarefa), seguido por orientação (pré-tarefa). O feedback corretivo foi raramente solicitado. Isso sugere que os agentes atuais têm dificuldade em autorregular quando buscar entrada humana fina e corretiva.
• Evidência de Risco: O artigo cita evidências de que a pesquisa aumentada por IA pode produzir três vezes mais artigos com uma redução de 5% na diversidade de tópicos explorados. Também destaca riscos de alucinação, proliferação de viés e o potencial de "desqualificação" (de-skilling) entre pesquisadores juniores que delegam processos deliberativos.
• Padrões de Sinergia: Estudos de caso demonstraram que a sinergia eficaz ocorre quando humanos fornecem enquadramento conceitual, julgamento de domínio e verificação epistêmica, enquanto agentes aceleram a implementação e a redação. No entanto, essa sinergia é frágil; sem supervisão especializada, os agentes exibem modos de falha como confiança prematura e suavização de questões complexas.

Principais Contribuições

1. Reenquadramento da Unidade de Análise: O artigo argumenta pela mudança do foco de pesquisa de "Cientistas de IA" autônomos para Sistemas Humano-Agente (HAS), onde a unidade de análise é o par humano-agente.
2. Taxonomia de Interação: Fornece uma categorização estruturada dos sistemas atuais de Cientista de IA baseada em canais de feedback (artefato, fase, planejamento, assíncrono) e dimensões (tipo, granularidade, fase), destacando a escassez de sistemas que suportam colaboração profunda e iterativa.
3. Estrutura de Mitigação de Risco: Postula que uma lente de HAS é essencial para mitigar riscos de curto prazo, incluindo alucinações, vieses e a erosão da expertise científica, garantindo que a supervisão humana permaneça integrada nos loops de descoberta, em vez de ser relegada à revisão pós-hoc.
4. Proposta de Estrutura Matemática: Os autores introduzem um modelo de utilidade ($U = CA - CD$) para guiar pesquisas futuras na maximização da vantagem de colaboração enquanto se minimizam os custos de coordenação.
5. Caminhos de Avaliação: O artigo propõe uma estratégia de avaliação em estágios para HAS, movendo-se de proxies de baixo custo (ex: tempo de revisão, densidade de intervenção, sinergia de oráculo simulado) para avaliações Centauro mais caras (comparações de HAS contra humanos e agentes isolados), para tornar a avaliação da sinergia humano-agente viável.

Significância e Alegações
O artigo afirma que estudar Cientistas de IA como HAS é subexplorado e subvalorizado. Sua significância reside em:

• Mitigação de Riscos de Curto Prazo: Ao centralizar a participação humana, a lente HAS oferece caminhos concretos para detectar alucinações, prevenir vieses e preservar habilidades científicas que poderiam degradar através da dependência excessiva da automação.
• Desbloqueio de Sinergia: Sugere que verdadeiros avanços científicos podem exigir uma "sinergia humano-agente" onde a equipe combinada supera qualquer um dos membros isoladamente, um estado atualmente inacessível para agentes totalmente autônomos ou humanos trabalhando isoladamente.
• Direção de Pesquisa Pragmática: Os autores argumentam que adotar a lente de HAS é uma rota pragmática para alcançar a co-descoberta segura e eficaz entre humano e agente. Eles pedem novas pesquisas para desenvolver estruturas matemáticas e métricas de avaliação que visem especificamente as dinâmicas de sinergia humano-IA na descoberta científica, em vez de tratar agentes como resolvedores de otimização isolados.

O artigo conclui que, embora a avaliação de HAS seja complexa e custosa, uma abordagem em estágios usando métricas leves pode validar a utilidade desses sistemas, promovendo, em última análise, um ambiente científico onde a IA aumenta, em vez de substituir, a deliberação humana.