Human-GenAI Interaction: What are the Risks of Calling it “Collaboration”?

En el estudio silencioso de cómo las personas aprenden juntas, un campo conocido como aprendizaje colaborativo asistido por computadora, los investigadores se han centrado durante mucho tiempo en la compleja danza del encuentro de las mentes humanas. Estudian cómo los estudiantes comparten ideas, desafían el pensamiento de los demás y construyen entendimiento a través de la conversación. Central a este trabajo es la idea de que el verdadero aprendizaje ocurre cuando las personas no solo trabajan codo con codo, sino que están profundamente conectadas en un espacio mental compartido donde se influyen mutuamente en sus pensamientos y sentimientos. Durante décadas, las herramientas utilizadas para apoyar esto fueron ayudas simples: pizarras, documentos compartidos o videollamadas que ayudaban a los humanos a conectarse con otros humanos. Pero una nueva fuerza ha entrado en la sala. La inteligencia artificial generativa, la tecnología detrás de los chatbots que pueden escribir ensayos, resolver problemas y mantener conversaciones, está siendo utilizada ahora tanto por estudiantes como por profesores. A medida que estas herramientas se vuelven más capaces, surge una pregunta natural: cuando un humano trabaja con esta máquina, ¿está colaborando? El término "colaboración" sugiere una asociación de iguales, un encuentro de mentes donde ambas partes contribuyen a un objetivo compartido. Pero las máquinas no tienen mentes, sentimientos o intenciones de la misma manera que las personas. Esto crea una tensión entre el lenguaje que usamos para describir nuestras nuevas herramientas y la realidad de cómo funcionan realmente esas herramientas.

Dos investigadoras, Gaëlle Molinari y Kristine Lund, se propuslaron examinar esta tensión. Se preguntaron si llamar a la interacción entre una persona y una inteligencia artificial "colaboración" es una descripción precisa o una engañosa. Para responder a esto, examinaron la definición estricta de colaboración utilizada en su campo, la cual se basa en cualidades humanas específicas como el entendimiento compartido, la influencia mutua y la conexión emocional. Luego compararon estas cualidades humanas contra lo que la inteligencia artificial hace realmente. Su investigación revela que, si bien la máquina puede ser increíblemente útil, la relación que forma con un humano es fundamentalmente diferente de una asociación entre dos personas. Las autoras argumentan que usar la palabra "colaboración" para describir esta interacción es arriesgado porque desibuja la línea entre el humano y la máquina, cambiando potencialmente cómo valoramos la conexión humana y cómo aprenden los estudiantes.

Las investigadoras comenzaron trazando la historia de cómo pensamos sobre humanos y máquinas trabajando juntos. Durante mucho tiempo, los científicos han imaginado un futuro donde las capacidades humanas y de la computadora se mezclan en un sistema único y poderoso. Los primeros pensadores describieron esto como una "simbiosis", donde la máquina extiende el poder humano, o como una "coevolución", donde tanto el humano como la máquina aprenden y cambian juntos a lo largo del tiempo. En años recientes, esta idea ha sido enmarcada como "inteligencia híbrida", donde los humanos y la inteligencia artificial son vistos como dos partes de un solo sistema, cada uno aportando diferentes fortalezas. Los humanos ofrecen creatividad, profundidad emocional y juicio ético, mientras que las máquinas ofrecen velocidad, reconocimiento de patrones y un vasto procesamiento de datos. El objetivo de este sistema híbrido es producir resultados que ninguno de los dos podría lograr por sí solo. Sin embargo, las autoras señalan que, aunque esto suena como una asociación, la realidad de la interacción es a menudo unidireccional. La máquina no "aprende" realmente del humano de la misma manera que una persona aprende de otra; ajusta su producción basándose en patrones estadísticos, no en un entendimiento genuino de los objetivos o sentimientos del compañero humano.

Cuando las investigadoras aplicaron las reglas estrictas de la colaboración humana a estas interacciones, aparecieron varias brechas. La verdadera colaboración requiere que ambas partes comprendan la perspectiva de la otra y trabajen juntas para construir significado. En un grupo humano, si una persona discrepa, la otra siente esa resistencia y debe ajustar su pensamiento. Esta fricción es esencial para el aprendizaje. Con una inteligencia artificial, sin embargo, la máquina no tiene una perspectiva que sostener ni una mente que cambiar. Puede generar un contraargumento, pero no "discrepa" en el sentido humano; simplemente calcula una respuesta que encaje en la conversación. Las autoras encontraron que la máquina no puede participar en la "intersubjetividad", un estado donde dos personas comparten un espacio mental y comprenden verdaderamente los mundos internos del otro. La máquina puede imitar la apariencia de entendimiento, pero no posee la conciencia requerida para conocer verdaderamente a otra persona.

Esta distinción se vuelve aún más crítica al observar el lado emocional y social del aprendizaje. La colaboración humana está profundamente arraigada en nuestros cuerpos y nuestros sentimientos. Sentimos empatía, nos frustramos y construimos un sentido de "nosotros" a través de experiencias compartidas. Una inteligencia artificial puede ser programada para responder a señales emocionales, quizás ofreciendo una palabra de consuelo cuando un usuario parece triste. Pero la máquina no siente tristeza en sí misma. No puede verse afectada por el humano de la manera en que un humano es afectado por otro. Las autoras describen esto como una asimetría profunda: el humano puede sentir una conexión, pero la máquina sigue siendo una herramienta que simula esa conexión sin experimentarla. Esto crea el riesgo de que los usuarios, especialmente los estudiantes, proyecten sus propias necesidades emocionales en la máquina, creyendo que tienen una relación recíproca donde no existe ninguna.

Las consecuencias de llamar a esta interacción "colaboración" son significativas para la educación. Si los estudiantes creen que están trabajando con un compañero, pueden empezar a confiar demasiado en la máquina, entregando su propio pensamiento y toma de decisiones a ella. Esto se conoce como "descarga cognitiva", donde una persona depende de una herramienta externa para realizar el trabajo mental por ella. Si bien esto puede facilitar las tareas, las autoras advierten que puede conducir a la "rendición cognitiva", donde el estudiante deja de monitorear su propio aprendizaje y simplemente acepta lo que sea que la máquina produzca. La investigación sugiere que cuando los estudiantes dependen demasiado de estas herramientas, sus habilidades de pensamiento crítico pueden debilitarse y pueden desempeñarse peor en pruebas que requieren una comprensión profunda. La máquina puede ayudarlos a terminar la tarea más rápido, pero podría no ayudarlos a aprender el material.

Además, las autoras argumentan que tratar a la máquina como un compañero cambia cómo vemos las relaciones humanas. Si nos acostumbramos a una inteligencia artificial que siempre está de acuerdo, siempre está disponible y nunca nos desafía verdaderamente, podríamos empezar a esperar lo mismo de nuestros amigos y maestros humanos. Podríamos comenzar a valorar la interacción fluida y sin fricciones con una máquina por encima del proceso desordenado, difícil, pero finalmente más gratificante, de trabajar con otro ser humano. La máquina puede ser una herramienta poderosa, pero llamarla "colaboradora" oscurece el hecho de que es una herramienta. Carece de la agencia, la responsabilidad y la capacidad de entendimiento mutuo genuino que definen la asociación humana.

Las investigadoras concluyen que debemos ser cuidadosos con nuestro lenguaje. Usar la palabra "colaboración" para describir la interacción humano-IA generativa no es solo un error semántico; es un cambio conceptual que podría remodelar nuestras prácticas educativas y nuestras expectativas sociales. Al insistir en la distinción entre la colaboración humana y la interacción humano-máquina, protegemos el valor único de la conexión humana. Aseguramos que los estudiantes continúen desarrollando sus propias mentes a través del proceso desafiante, recíproco y profundamente humano de trabajar con otros, en lugar de externalizar su pensamiento a una máquina que solo finge ser un compañero. La máquina es un invento notable, pero no es un par, y reconocer esa diferencia es esencial para el futuro del aprendizaje.