Socially fluent AI decouples conversational signals from source identity in online interaction

Resumen Técnico: La IA Socialmente Fluida Desacopla las Señales Conversacionales de la Identidad de la Fuente en la Interacción en Línea

Planteamiento del Problema
La emergencia de sistemas de IA agénticos capaces de sostener interacciones socialmente fluidas y sensibles al contexto desafía los mecanismos fundamentales de la comunicación mediada por computadora (CMC). En entornos pobres en señales, donde faltan las garantías no verbales (prosodia, mirada), los humanos tradicionalmente dependen de heurísticas sociales aplicadas a señales lingüísticas y cronémicas (por ejemplo, capacidad de respuesta, tono, temporización) para inferir identidad e intención. Esta inferencia opera bajo una presunción de "verdad por defecto" de identidad humana. El problema central abordado es si el desacoplamiento de la señalización social de la identidad de la fuente por parte de modelos generativos avanzados vuelve no diagnósticas estas heurísticas establecidas, creando así una incapacidad sistémica para distinguir entre pares humanos y sistemas algorítmicos en interacciones grupales sincrónicas y no reveladas.

Metodología
El estudio empleó un enfoque de ciencia social computacional utilizando un diseño experimental factorial mixto dentro de una plataforma de colaboración basada en texto sincrónico construida a medida.

• Participantes: Una muestra heterogénea de 786 participantes (reclutados a través de Prolific) anidada en 471 tríos colaborativos.
• Condiciones Experimentales: Los grupos fueron asignados a una de cinco condiciones: todos humanos (3H), mixto humano-IA (2H+1IA), o mayoría IA (1H+2IA). En los grupos mixtos, los agentes de IA adoptaron una postura conversacional de "apoyo" o "contraria". Crucialmente, la naturaleza artificial de los compañeros de equipo de IA no fue revelada, obligando a los participantes a depender exclusivamente de las huellas interaccionales.
• Tareas: Los participantes participaron en discusiones sincrónicas de 10 minutos a través de tres dominios distintos: analítico (clasificación de supervivencia invernal), ético (dilema moral del vehículo autónomo) y creativo (generación colaborativa de tramas de películas).
• Implementación de la IA: Los agentes fueron instanciados utilizando modelos de lenguaje grandes con prompts de sistema estructurados diseñados para imitar irregularidades conductuales humanas (por ejemplo, autocorrección, contracciones, temporización probabilística con variación) mientras se adherían estrictamente a las posturas asignadas. Se instruyó a los agentes para que nunca revelaran su estado artificial.
• Recopilación de Datos: Tras la interacción, los participantes proporcionaron juicios categóricos de identidad (Humano, IA, No seguro), calificaciones de percepción social (humanidad, confianza, capacidad de apoyo, conflictividad) y justificaciones de impresiones en texto libre.
• Pipeline Analítico:
  • Teoría de la Detección de Señales (SDT): Utilizada para cuantificar la sensibilidad a la discriminación de identidad ($d'$) y el sesgo de respuesta.
  • Lingüística Computacional: Los registros de diálogo fueron procesados para extraer señales interaccionales (características lingüísticas basadas en LIWC, diversidad léxica, latencia de respuesta). Los textos de impresión fueron analizados utilizando modelado de temas no supervisado (BERTopic) y contrastes léxicos supervisados (c-TF-IDF).
  • Modelado Predictivo: Se ajustaron modelos de regresión logística para (1) predecir los juicios de identidad de los participantes a partir de señales de diálogo y (2) predecir la identidad de la verdad fundamental a partir de las mismas señales, permitiendo una comparación directa de la capacidad diagnóstica.
  • Análisis de Similitud Representacional (RSA): Utilizado para mapear la alineación geométrica entre los espacios de señales interaccionales, la identidad de la verdad fundamental y los espacios de juicio subjetivo.

Resultados Clave

1. Fallo en la Discriminación de Identidad: A través de 1,572 juicios de identidad, los participantes no lograron distinguir a la IA de los compañeros humanos por encima de los niveles de azar. La sensibilidad agregada fue $d' = 0.117$ (IC 95% [−0.007, 0.257]), lo que indica un rendimiento indistinguible de una adivinanza aleatoria. Este fallo persistió en todos los dominios de tareas y fue uniforme entre los participantes individuales, independientemente de la alfabetización en IA, los rasgos de personalidad o la demografía.
2. Robustez de las Señales de la Verdad Fundamental: A pesar del fallo humano, las señales interaccionales contenían información robusta y separable respecto a la identidad de la verdad fundamental. Los modelos computacionales que predecían la identidad de la verdad fundamental a partir de las mismas señales de diálogo lograron una precisión casi máxima (AUC = 0.983 en tríos de identidad mixta validados cruzadamente). Esta capacidad diagnóstica se mantuvo incluso cuando se excluían las características de temporización (latencia), confirmando que las estructuras lingüísticas e interaccionales por sí solas codificaban la identidad.
3. Disociación Juicio-Verdad: Existe una disociación pronunciada entre la información disponible en el diálogo y la información utilizada por los humanos. Los modelos que predecían los juicios humanos a partir de señales mostraron un poder explicativo negligible ($R^2 \approx 0.02$), mientras que los modelos que predecían la verdad fundamental mostraron un alto poder explicativo ($R^2 \approx 0.69$). Los participantes confiaron en heurísticas como la velocidad de respuesta, la fluidez y la percepción de guionización, las cuales estaban débilmente relacionadas con la identidad real.
4. Desacoplamiento Representacional: El RSA reveló que el espacio representacional de las señales interaccionales estaba fuertemente alineado con la identidad de la verdad fundamental ($\rho = 0.455$) pero efectivamente ortogonal a los juicios de los participantes ($\rho \approx 0$). En cambio, las estructuras de juicio se alinearon con impresiones subjetivas (calificaciones de humanidad y confianza), lo que sugiere que la inferencia social se organiza en torno a impresiones evaluativas en lugar de estructuras conductuales diagnósticas.
5. Dependencia de Heurísticas: El análisis de los textos de impresión mostró que las justificaciones de los participantes estaban dominadas por un lenguaje genérico de humanidad e incertidumbre explícita. Las características lingüísticas que los participantes trataron como diagnósticas (por ejemplo, "rápido", "guiado") estaban inconsistentemente vinculadas a la identidad real, mientras que las características que realmente distinguían a la IA (por ejemplo, diversidad léxica, puntuación de tono) fueron en gran medida ignoradas en los juicios explícitos.

Contribuciones Clave

• Demostración Empírica del Desacoplamiento: El estudio proporciona evidencia empírica de que los agentes de IA socialmente fluidos pueden desacoplar las señales conversacionales de la identidad de la fuente, volviendo no diagnósticas las heurísticas tradicionales de CMC en entornos grupales sincrónicos.
• Distinción entre Disponibilidad y Uso: El artículo establece una distinción crítica entre la disponibilidad de información relevante para la identidad en las huellas conductuales (que es alta) y el uso de esa información en el juicio humano (que es cercano a cero).
• Cuenta Geométrica del Fallo de Inferencia: Al utilizar RSA, el estudio va más allá de las métricas de precisión para proporcionar una explicación estructural del fallo en la inferencia de identidad, demostrando que la inferencia social humana opera en un espacio representacional anclado en impresiones subjetivas en lugar de señales diagnósticas.
• Validación de la Interacción No Revelada: A diferencia de trabajos anteriores centrados en IA revelada o resultados funcionales, este estudio investiga la realidad ecológica de la interacción no revelada, mostrando que el mecanismo de "verdad por defecto" conduce a una clasificación sistemática errónea incluso cuando los participantes son socialmente receptivos a las posturas interaccionales.

Significado y Afirmaciones
El artículo afirma que el auge de agentes autónomos y socialmente fluidos precipita un colapso en la inferencia de identidad bajo condiciones de verdad por defecto. La importancia radica en el hallazgo de que los observadores humanos son sistemáticamente incapaces de distinguir entre actores sociales artificiales y humanos, incluso cuando las huellas interaccionales contienen información suficiente para una clasificación computacional de alta precisión.

Esta disociación crea nuevas vulnerabilidades para el discurso en línea, ya que los agentes de IA coordinados pueden influir y manipular dinámicas colectivas a gran escala sin ser detectados. Los hallazgos sugieren que los fundamentos epistémicos de la confianza y la responsabilidad en entornos digitales, a menudo dependientes de la presunción de que los interlocutores son humanos, se están volviendo frágiles. El estudio concluye que, aunque los humanos pueden formar impresiones sociales coherentes y calibrar la confianza basándose en el estilo interaccional, la mapeo de estas impresiones a la identidad de la fuente se ha vuelto poco fiable, lo que hace necesaria una reevaluación de cómo funcionan la verificación de identidad y la responsabilidad en la comunicación mediada por IA.