Position: AI Agents in Scientific Teams Should Be Studied as Human-Agent Systems

Resumen Técnico: Los Agentes de IA en Equipos Científicos Deben Estudiarse como Sistemas Humano-Agente

Declaración del Problema
El artículo identifica una brecha crítica en la literatura actual con respecto a los "Científicos de IA" basados en Modelos de Lenguaje de Gran Escala (LLM). Mientras que la investigación existente se centra cada vez más en las capacidades autónomas de los agentes para realizar descubrimientos científicos, esta perspectiva pasa por alto en gran medida la dinámica social y colaborativa inherente al trabajo en equipo científico. Los sistemas actuales suelen tratar la participación humana como limitada a la definición de objetivos de alto nivel y la verificación final, sin tener en cuenta la colaboración iterativa y conjunta típica de los equipos humano-humano. Los autores argumentan que estudiar a los Científicos de IA de forma aislada ignora los "aspectos sociales del trabajo en equipo científico" y no aborda los riesgos a corto plazo, como la homogeneización de la investigación científica y la reducción de la diversidad de temas, que surgen cuando los agentes se despliegan sin considerar la dinámica humano-agente.

Metodología
Los autores emplean un enfoque multifacético que combina la revisión de la literatura, el análisis empírico y el examen de casos de estudio a través de la lente de los Sistemas Humano-Agente (HAS, por sus siglas en inglés).

1. Revisión de la Literatura y Aplicación de la Taxonomía: Los autores revisan sistemas recientes de Científicos de IA (por ejemplo, AI Scientist v2, Kosmos, Co-Scientist, Denario) y los categorizan según el canal primario de retroalimentación humana. Adoptan una taxonomía de Zou et al. (2025a) para analizar estos sistemas a través de tres dimensiones:

   • Tipo: Evaluativa (evaluación de calidad), Guía (instrucciones/críticas) o Correctiva (ediciones/correcciones).
   • Granularidad: Gruesa (una sola evaluación para un resultado) o Fina (retroalimentación dirigida paso a paso).
   • Fase: Pre-tarea (planificación), Mediante la tarea (ejecución) o Post-tarea (evaluación).
     La revisión revela que la mayoría de los sistemas dependen de la retroalimentación a nivel de artefacto (post-tarea) o a nivel de fase de descubrimiento (mediante la tarea), con muy pocos que admitan intervenciones flexibles, asíncronas o de grano fino.

2. Experimento Empírico Preliminar: Para probar el comportamiento del agente respecto a la retroalimentación, los autores realizaron un experimento utilizando un entorno de agente basado en ReAct con GPT-5-mini en el benchmark de Descubrimiento de Extremo a Extremo (E2E) AstaBench. Compararon tres condiciones:

   • Un agente de base centrado en la planificación.
   • Un agente con una herramienta de "preguntar al usuario" y una taxonomía de retroalimentación en el prompt del sistema.
   • Un agente con instrucciones explícitas por paso para siempre llamar a la herramienta "preguntar al usuario".
     El estudio utilizó un LLM como juez para clasificar el tipo, la granularidad y la fase de las solicitudes de retroalimentación.

3. Análisis de Casos de Estudio: Los autores analizaron relatos publicados de científicos colaborando con agentes (por ejemplo, "Vibe-coding" un resultado de teoría de la complejidad con Gemini 3 Pro; reducción de modelado físico con GPT-5) para ilustrar cualitativamente patrones de aumento mutuo y sinergia.

4. Modelado Teórico: Los autores proponen un modelo de utilidad de juguete para HAS, definido como $U(H, A) = CA(H, A) - CD(H, A)$, donde $CA$ representa la ventaja de colaboración (complementariedad) y $CD$ representa la desventaja de colaboración (costos de coordinación).

Resultes Clave

• Limitaciones de la Retroalimentación: La revisión de la literatura indica que la mayoría de los sistemas de Científicos de IA restringen la interacción humana a roles de supervisión (alcance, auditoría, aprobación) en lugar de una colaboración sostenida e iterativa. La retroalimentación a nivel de artefacto es la más común, mientras que la dirección asíncrona y la interrupción de grano fino son raras.
• Comportamiento de Retroalimentación del Agente: En el experimento preliminar, el agente sin instrucciones explícitas por paso no supo cuándo pedir ayuda, asumiendo a menudo supuestos en situaciones ambiguas. Cuando se le obligó a preguntar en cada paso, el tipo de retroalimentación dominante fue evaluativa (ocurriendo durante la tarea), seguida de la de guía (pre-tarea). La retroalimentación correctiva rara vez fue solicitada. Esto sugiere que los agentes actuales tienen dificultades para autorregularse sobre cuándo buscar una entrada humana correctiva y de grano fino.
• Evidencia de Riesgo: El documento cita evidencia de que la investigación aumentada por IA puede producir tres veces más artículos con una reducción del 5% en la diversidad de los temas explorados. También destaca los riesgos de alucinación, proliferación de sesgos y el potencial de "descalificación" entre investigadores noveles que delegan los procesos deliberativos.
• Patrones de Sinergia: Los casos de estudio demostraron que la sinergia efectiva ocurre cuando los humanos proporcionan el marco conceptual, el juicio de dominio y la verificación epistémica, mientras que los agentes aceleran la implementación y la redacción. Sin embargo, esta sinergia es frágil; sin supervisión experta, los agentes exhiben modos de falla como la confianza prematura y la suavización de problemas complejos.

Contribuciones Clave

1. Reencuadre de la Unidad de Análisis: El artículo argumenta que se debe cambiar el enfoque de la investigación de los "Científicos de IA" autónomos hacia los Sistemas Humano-Agente (HAS), donde la unidad de análisis es el par humano-agente.
2. Taxonomía de Interacción: Proporciona una categorización estructurada de los sistemas actuales de Científicos de IA basados en canales de retroalimentación (artefacto, fase, planificación, asíncrona) y dimensiones (tipo, granularidad, fase), resaltando la escasez de sistemas que admitan una colaboración profunda e iterativa.
3. Marco de Mitigación de Riesgos: Postula que una lente de HAS es esencial para mitigar riesgos a corto plazo, incluyendo alucinaciones, sesgos y la erosión de la experiencia científica, asegurando que la supervisión humana permanezca integrada en los ciclos de descubrimiento en lugar de quedar relegada a una revisión post-hoc.
4. Propuesta de Marco Matemático: Los autores introducen un modelo de utilidad ($U = CA - CD$) para guiar la investigación futura en la maximización de la ventaja de colaboración mientras se minimizan los costos de coordinación.
5. Vías de Evaluación: El documento propone una estrategia de evaluación por etapas para los HAS, pasando de proxies de bajo costo (por ejemplo, tiempo de revisión, densidad de intervención, sinergia de oráculo simulado) a evaluaciones Centauro más costosas (comparaciones de HAS contra humanos y agentes por separado), para hacer factible la evaluación de la sinergia humano-agente.

Significancia y Reivindicaciones
El artículo afirma que estudiar a los Científicos de IA como HAS es tanto subexplorado como infravalorado. Su significancia radica en:

• Mitigación de Riesgos a Corto Plazo: Al centrar la participación humana, la lente de HAS ofrece vías concretas para detectar alucinaciones, prevenir sesgos y preservar las habilidades científicas que de otro modo podrían degradarse mediante la dependencia excesiva de la automatización.
• Desbloqueo de la Sinergia: Sugiere que los verdaderos avances científicos pueden requerir una "sinergia humano-agente" donde el equipo combinado supere a cualquiera de los miembros por sí solo, un estado actualmente inaccesible para los agentes totalmente autónomos o los humanos que trabajan de forma aislada.
• Dirección de Investigación Pragmática: Los autores argumentan que adoptar la lente de HAS es una ruta pragmática para lograr un co-descubrimiento humano-agente seguro y efectivo. Instan a que se desarrolle nueva investigación para crear marcos matemáticos y métricas de evaluación que apunten específicamente a la dinámica de la sinergia humano-IA en el descubrimiento científico, en lugar de tratar a los agentes como solucionadores de optimización aislados.

El documento concluye que, si bien la evaluación de los HAS es compleja y costosa, un enfoque por etapas utilizando métricas ligeras puede validar la utilidad de estos sistemas, fomentando en última instancia un entorno científico donde la IA aumente en lugar de reemplazar la deliberación humana.