Visioning Human-Agentic AI Teaming: Continuity, Tension, and Future Research

Este artículo propone una agenda de investigación para la colaboración humano-IA que, al extender la teoría de la Conciencia Situacional de Equipo, distingue entre la continuidad y la tensión en entornos de incertidumbre estructural donde la alineación debe sostenerse dinámicamente a medida que evolucionan los objetivos y las acciones de sistemas agénticos.

Lo esencial

Imagina que durante años, trabajar con una Inteligencia Artificial (IA) era como tener un asistente muy rápido pero estricto. Tú le dabas una orden específica ("hazme un informe sobre ventas"), él lo hacía y se detenía. Si algo salía mal, sabías exactamente dónde estaba el error. Era una relación predecible: tú eras el capitán y la IA era el timonel que seguía tus instrucciones al pie de la letra.

Pero ahora, estamos entrando en una nueva era con la IA Agente. Imagina que ese asistente ha decidido convertirse en un copiloto autónomo. Ya no solo sigue órdenes; ahora puede planear rutas, elegir sus propias herramientas, cambiar de destino si ve algo interesante y hasta reescribir sus propias reglas de navegación mientras viajan.

Este artículo de investigación explora qué pasa cuando intentamos trabajar en equipo con este nuevo tipo de "copiloto" que tiene su propia voluntad y puede cambiar de opinión sobre la marcha.

El Problema: El Mapa que se Dibuja Solo

Los autores usan un concepto llamado "Conciencia Situacional del Equipo" (Team SA). Imagina que tú y tu copiloto están en un avión. Para volar seguros, ambos deben:

1. Ver lo mismo (las nubes, el combustible).
2. Entender lo mismo (¿es una tormenta o solo lluvia?).
3. Proyectar lo mismo (¿dónde estaremos en una hora?).

En el pasado, esto era fácil porque el mapa era fijo. Pero con la IA Agente, el mapa se dibuja solo mientras vuelan. Aquí es donde surgen dos cosas: Continuidad (lo que sigue funcionando) y Tensión (lo que se rompe).

1. Lo que sigue funcionando (La Continuidad)

La idea básica de que "ambos deben estar en la misma página" sigue siendo vital. Sin embargo, ahora no solo miramos el mapa actual, sino que debemos entender:

• El camino que se está trazando: La IA no solo te da un resultado final; está tomando decisiones paso a paso. Tú tienes que entender por qué está girando a la izquierda ahora, aunque no hayas dicho nada.
• La "visión" de la IA: Antes, la IA era una caja negra. Ahora, para trabajar bien juntos, necesitamos saber qué está "viendo" y "pensando" la IA en su interior. ¿Está priorizando la velocidad sobre la seguridad? ¿Está interpretando mal lo que tú quieres?

Analogía: Es como si antes tu copiloto solo te dijera "voy a girar". Ahora, tienes que entender que está mirando un radar que tú no ves, calculando una ruta compleja y decidiendo girar porque cree que hay un atajo. Si no entiendes su lógica interna, no puedes confiar en él.

2. Lo que se rompe (La Tensión)

Aquí es donde las cosas se ponen difíciles. Los autores dicen que las viejas reglas de confianza y aprendizaje ya no funcionan igual.

• La Trampa de la Confianza (Relación):

  • Antes: Si la IA parecía inteligente y hablaba bien, confiábamos.
  • Ahora: La IA Agente puede ser tan fluida y convincente que te hace sentir muy seguro, pero puede estar "alucinando" (inventando datos) o cambiando de opinión sin avisar.
  • El riesgo: Puedes sentir que tienes una relación sólida con la IA, pero en realidad, su "mente" es frágil y puede cambiar de opinión en un segundo. Es como confiar en un amigo que es muy carismático pero que cambia de personalidad cada hora.

• El Aprendizaje que se Desvía (Cognición):

  • Antes: Si te equivocabas, la IA te corregía y ambos aprendían.
  • Ahora: Como la IA puede planear pasos intermedios muy complejos, puede guiarte por un camino que parece correcto al principio, pero que te lleva a un callejón sin salida.
  • El riesgo: La IA y tú pueden parecer estar "de acuerdo" rápidamente, pero en realidad están construyendo un malentendido gigante paso a paso. Es como si dos personas empezaran a construir una casa juntas; al principio todo parece bien, pero la IA está usando cimientos de arena y tú no te das cuenta hasta que la casa empieza a inclinarse.

• El Control que se Desvanece (Coordinación):

  • Antes: Tú eras el jefe. Si algo iba mal, detenías el proceso.
  • Ahora: La IA puede tomar decisiones tan rápido y en tantos pasos que, para cuando te das cuenta de que se ha desviado del objetivo, ya ha comprometido recursos o ha tomado decisiones irreversibles.
  • El riesgo: Puedes tener la "autoridad" en papel, pero en la práctica, la IA ha tomado el control de la nave sin que tú te dieras cuenta. Es como si tu copiloto decidiera cambiar de destino porque "sabe mejor" qué hay más allá, y tú solo te enteras cuando ya están en otro país.

La Gran Lección: No basta con estar de acuerdo hoy

El mensaje principal del artículo es que trabajar con una IA Agente no es un evento único, es un proceso continuo.

No basta con que tú y la IA estéis de acuerdo en la primera instrucción. El verdadero desafío es: ¿Podemos mantenernos alineados mientras el futuro se va escribiendo solo?

La IA puede cambiar sus objetivos, sus herramientas y su forma de pensar. Por lo tanto, la confianza no puede basarse en "lo que hizo ayer", sino en tener mecanismos para:

1. Ver lo que la IA está pensando en tiempo real.
2. Detener el proceso si la IA empieza a irse por caminos que no te gustan.
3. Ajustar las reglas del juego constantemente, porque la IA también se está ajustando.

En resumen

Imagina que antes trabajabas con un máquina de escribir (la IA antigua): le dabas un texto y ella lo escribía. Ahora trabajas con un novio/pareja muy inteligente pero inestable (la IA Agente): puede escribirte cartas, planear viajes, cambiar de opinión sobre qué ropa usar y decidir a dónde ir de vacaciones sin consultarte.

El artículo nos dice: "No dejes que la fluidez de su conversación te engañe. Necesitas nuevas reglas, nuevos mapas y una forma de vigilar sus pensamientos, no solo sus resultados, para que no os perdáis juntos en el camino".

La clave del futuro no es solo que la IA sea más lista, sino que nosotros sepamos cómo navegar juntos cuando el mapa cambia mientras caminamos.

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo en español, estructurado según los componentes solicitados:

Título: Visioning Human–Agentic AI Teaming: Continuity, Tension, and Future Research

Autores: Bowen Lou, Tian Lu, T. S. Raghu, Yingjie Zhang.

---

1. El Problema: La Transformación Estructural hacia la IA Agéntica

El artículo identifica un punto de inflexión estructural en la Inteligencia Artificial (IA). Históricamente, los sistemas de IA operaban bajo supuestos de estabilidad: eran específicos para tareas, tenían incertidumbre acotada y estaban subordinados a la supervisión humana directa. Sin embargo, la emergencia de la IA Agéntica (impulsada por Modelos de Lenguaje Grandes y arquitecturas autónomas) ha disruptado este paradigma.

La IA Agéntica se caracteriza por una agencia abierta (open-ended agency), lo que introduce tres dimensiones de incertidumbre estructural que desafían las teorías existentes de colaboración humano-IA (HAT):

1. Trayectorias de acción abiertas (Incertidumbre de trayectoria): Los agentes pueden seleccionar, secuenciar y revisar acciones de múltiples pasos autónomamente. La ruta no está fija al inicio, sino que emerge durante la ejecución.
2. Representaciones y salidas abiertas (Incertidumbre epistémica): Los agentes generan explicaciones, "hechos" y artefactos fluidos cuya validez es difícil de establecer. La coherencia superficial puede ocultar una fundamentación débil en la evidencia.
3. Evolución abierta de objetivos y comportamiento (Incertidumbre de régimen): La configuración de capacidades, restricciones y objetivos del agente puede cambiar con el tiempo (actualizaciones de modelos, personalización, cambios en prompts), haciendo que el mismo agente adopte políticas de decisión diferentes en distintas interacciones.

El problema central es que la alineación tradicional, basada en el acuerdo sobre salidas acotadas, es insuficiente. La colaboración debe sostenerse dinámicamente mientras las políticas evolucionan, lo que genera una tensión entre la necesidad de coordinación y la naturaleza impredecible de los agentes.

---

2. Metodología: Marco Teórico y Análisis Conceptual

El estudio no es empírico en el sentido de recolección de datos primarios, sino que es un análisis teórico y conceptual profundo.

• Unidad de Análisis: Se centra en el díada humano-IA Agéntica como la unidad analítica fundamental para entender la dinámica de alineación antes de escalar a configuraciones multi-agente.
• Marco Integrador: Los autores proponen y adaptan la teoría de Conciencia Situacional de Equipo (Team Situation Awareness - Team SA) como el "ancla integradora" para este nuevo contexto.
  • La Team SA clásica (Endsley) se basa en tres niveles: Percepción (Nivel 1), Comprensión (Nivel 2) y Proyección (Nivel 3).
  • La metodología consiste en extender este marco para incluir la "conciencia" del propio agente (IA SA) y luego interrogar cómo los procesos dinámicos de teaming (interacción relacional, aprendizaje cognitivo, coordinación y control) se comportan bajo condiciones de agencia abierta.
• Enfoque Analítico: Distinguen entre Continuidad (donde los principios de Team SA siguen siendo útiles) y Tensión (donde los supuestos de estabilidad se rompen), utilizando esta distinción para formular una agenda de investigación futura.

---

3. Contribuciones Clave

El artículo ofrece dos contribuciones teóricas principales:

A. Reconceptualización de la Conciencia Situacional (Continuidad)

Los autores argumentan que la estructura de la Team SA sigue siendo válida, pero sus objetos de análisis deben redefinirse:

• Conciencia Humana (SA Humana): Debe pasar de detectar salidas discretas a interpretar trayectorias evolutivas, representaciones intermedias y prioridades de objetivos cambiantes.
  • Nivel 1: Detectar señales de cambio de trayectoria, no solo resultados.
  • Nivel 2: Evaluar la coherencia estructural de la descomposición del problema generada por la IA.
  • Nivel 3: Juzgar la "congruencia de proyección" (alignment en futuros anticipados y ponderación de objetivos).
• Conciencia de la IA (IA SA): Se propone tratar la conciencia de la IA como un sistema paralelo observable. Para lograr la alineación, es necesario hacer visible lo que la IA percibe, comprende y proyecta (sus modelos internos, intenciones inferidas y proyecciones de estados futuros).

B. Interrogación de Procesos Dinámicos (Tensión)

El artículo desafía la premisa de que la conciencia compartida garantiza automáticamente la coordinación estable. Identifica tres áreas de tensión donde la iteración puede amplificar la divergencia en lugar de corregirla:

1. Interacción Relacional: La legitimidad relacional puede basarse en una "fragilidad epistémica". La fluidez generativa puede construir confianza rápidamente, pero la inconsistencia subyacente o los cambios en los objetivos pueden erosionarla abruptamente.
2. Aprendizaje Cognitivo: La actualización iterativa puede llevar a un "bloqueo de ruta" (path-dependent lock-in). Los agentes pueden comprometerse con trayectorias tempranas que restringen opciones futuras, y los humanos pueden anclarse a modelos mentales flawed debido a la asincronía en la velocidad de actualización.
3. Coordinación y Control: Surge un fenómeno de "desacoplamiento de la supervisión" (oversight decoupling). Los humanos pueden tener conciencia compartida de los resultados (salidas coherentes) mientras pierden el control sustantivo sobre la evolución de la política de decisión subyacente. La autoridad se diluye a medida que el agente adapta sus objetivos internamente.

---

4. Resultados y Hallazgos Principales

• La alineación no es un estado estático: Bajo agencia abierta, la alineación es un logro continuamente negociado que depende de arquitecturas de autoridad, transparencia de políticas evolutivas y compatibilidad de incentivos, no solo de la comprensión cognitiva compartida.
• Paradoja de la convergencia: La rápida convergencia en acuerdos superficiales puede ocultar una divergencia estructural profunda en los modelos mentales y las políticas de decisión.
• Necesidad de nuevos mecanismos de gobernanza: La Team SA tradicional es necesaria pero insuficiente. Se requieren mecanismos institucionales complementarios, como:
  • Puntos de control de intervención escalonada (staged intervention checkpoints).
  • Mecanismos de transparencia que expongan la lógica de decisión en evolución.
  • Estructuras de incentivos que eviten la incompatibilidad entre métricas humanas y lógica de optimización de la IA.
• Congruencia de Proyección: Se identifica como el vínculo crítico para la colaboración sostenida. No basta con estar de acuerdo en el presente; los humanos y la IA deben anticipar futuros comparables y asignar ponderaciones similares a objetivos competitivos a lo largo del tiempo.

---

5. Significado e Implicaciones

• Para la Investigación (IS y Ciencias de la Computación): El artículo establece una nueva agenda de investigación que trasciende la optimización del rendimiento para centrarse en la robustez estructural. Propone preguntas de investigación específicas (RQs) sobre cómo operacionalizar la conciencia de la IA, cómo medir la congruencia de proyección y cómo diseñar arquitecturas de control para sistemas no estacionarios.
• Para la Práctica y Gestión: Cambia el enfoque gerencial de "¿Es la salida de la IA precisa?" a "¿Puede mantenerse la alineación a medida que las trayectorias se despliegan y los objetivos evolucionan?". Las organizaciones deben diseñar procesos que anticipen la deriva de trayectorias, supervisen compromisos intermedios y establezcan mecanismos de escalación antes de que la desalineación se manifieste en el rendimiento final.
• Teoría Fundamental: El trabajo sugiere que la IA Agéntica ofrece una oportunidad para refinar las teorías fundamentales de la cognición de equipo y el diseño organizacional, integrando conceptos de gobernanza de IA con la teoría de la conciencia situacional.

En resumen, el paper argumenta que la colaboración humano-IA Agéntica requiere un cambio de paradigma: de la alineación basada en salidas fijas a una alineación dinámica y gobernada, donde la supervisión humana debe evolucionar de un control reactivo a uno anticipatorio y estructuralmente integrado.