Who Answers for AI? Epistemic Visibility, Responsibility, and Error Repair in Collaborative Learning

En el aula moderna y en el lugar de trabajo moderno, los grupos suelen resolver problemas juntos mediante la agrupación de sus conocimientos. Este proceso se basa en un delicado acuerdo social: cuando alguien ofrece una idea, el grupo debe saber de dónde proviene, cómo se formó y quién es responsable de comprobar su exactitud. Este es el fundamento del aprendizaje colaborativo, donde el objetivo no es solo compartir información, sino construir un entendimiento compartido que una sola persona no podría crear por sí misma. Sin embargo, se ha añadido una nueva capa a esta dinámica: la inteligencia artificial. Cuando un estudiante o empleado utiliza una herramienta de IA para generar una respuesta, se enfrenta a una elección crítica. Puede traer la idea de vuelta al grupo como una simple sugerencia, ocultando el hecho de que una máquina la produjo. O puede revelar todo el historial de esa idea, mostrando las preguntas realizadas, las respuestas brutas generadas y las ediciones hechas. Esta distinción crea una brecha entre lo que el grupo ve y lo que realmente sucedió. La cuestión no es si la IA ayuda, sino cómo la visibilidad de su contribución cambia la forma en que las personas confían, discuten y corrigen errores cuando trabajan juntas.

Un investigador de la University College London se propuso explorar esta brecha observando cómo trabajaban en grupo estudiantes de posgrado durante un periodo de ocho semanas. No se limitó a preguntar a los estudiantes qué pensaban sobre la IA; los observó trabajar en tiempo real. El investigador organizó a cuarenta y ocho estudiantes en doce grupos y les dio una tarea compleja: diseñar una intervención educativa para corregir las inequidades en la educación científica y matemática. Para ver cómo importaba la visibilidad, los estudiantes rotaron a través de tres formas diferentes de usar la IA. En el primer escenario, un estudiante podía usar la IA de forma privada. Podía escribir una pregunta, obtener una respuesta, editarla y pegar el resultado final en el documento del grupo sin que nadie más viera el proceso. En el segundo escenario, el estudiante seguía usando su propia herramienta de IA privada, pero un panel especial en la pantalla mostraba al resto del grupo exactamente lo que se escribió, lo que la máquina dijo y cómo el estudiante lo cambió. En el tercer escenario, todo el grupo utilizaba una única herramienta de IA de forma conjunta, donde todos podían ver las preguntas y respuestas a medida que ocurrían.

El investigador registró cada palabra que los estudiantes pronunciaron, cada pulsación de tecla que realizaron y cada cambio que hicieron en sus documentos. También introdujo momentos específicos donde la IA estaba programada para dar una respuesta errónea o engañosa, solo para ver cómo reaccionaba el grupo. Quería saber si el grupo detectaría el error, quién se sentiría responsable de corregirlo y si el producto final sería mejor si todos pudieran ver el trabajo de la IA.

El estudio encontró que cuando el trabajo de la IA estaba oculto, la dinámica del grupo cambiaba de una manera que hacía que el aprendizaje fuera menos efectivo. Cuando un estudiante usaba la IA privada y opaca, a menudo se convertía en el único guardián de esa información. Traía una idea pulida al grupo y, debido a que los demás no podían ver la salida original de la máquina o las preguntas que la condujeron a ella, trataban la idea como si procediera directamente del estudiante. Esto creaba una situación en la que el estudiante que controlaba la IA poseía todo el poder para decidir qué sabía el grupo. Si la IA cometía un error, los otros estudiantes a menudo no se daban cuenta de que debían verificar el trabajo. Asumían que el estudiante ya lo había verificado, o simplemente aceptaban la respuesta de sonido fluido sin cuestionarla. La responsabilidad de la idea se desplazaba silenciosamente del grupo al estudiante individual, y luego a menudo desaparecía por completo, dejando a nadie que realmente fuera dueño de la afirmación.

Cuando el investigador hizo visible el trabajo de la IA, el comportamiento de los grupos cambió drásticamente. En la condición en la que los estudiantes usaban su propia IA pero mostraban el historial completo al grupo, la dinámica se volvía mucho más equilibrada. Los otros miembros podían ver exactamente qué había dicho la máquina y cómo el estudiante lo había editado. Esta transparencia permitió al grupo actuar como un equipo de inspectores. Podían preguntar: "¿Por qué le preguntaste eso a la IA?" o "La máquina dijo esto, pero tú cambiaste esa parte; ¿por qué?". Esta visibilidad convirtió a la IA de una caja negra en un objeto compartido que el grupo podía examinar juntos. Los estudiantes eran más propensos a desafiar las sugerencias de la IA, verificar hechos y reparar errores cuando ocurrían. El grupo no solo aceptaba el resultado; regulaban activamente el proceso, decidiendo juntos qué era digno de confianza y qué necesitaba más trabajo.

Curiosamente, el estudio encontró que tener un espacio de trabajo de IA compartido, donde todos usaban la misma herramienta al mismo tiempo, no siempre producía mejores resultados que la IA personal rastreable. Si bien el espacio de trabajo compartido hacía que la salida de la IA fuera pública, no necesariamente fomentaba el mismo nivel de inspección crítica que la condición de la IA personal rastreable. El factor clave no era solo que todos pudieran ver la pantalla, sino que pudieran ver el camino específico de cómo un solo estudiante interactuaba con la máquina. La capacidad de rastrear el historial de una afirmación —desde la pregunta inicial hasta la frase final editada— parecía ser la herramienta más poderosa para mantener al grupo honesto.

El investigador también observó cómo los grupos manejaban los momentos específicos en los que la IA daba una respuesta errónea. En las condiciones ocultas, estos errores a menudo se filtraban en el proyecto final del grupo sin ser detectados, o eran aceptados sin un debate real sobre su validez. En las condiciones visibles, los errores se convertían en eventos desencadenantes para la colaboración. El grupo se detenía, discutía la discrepancia y trabajaba junto para encontrar la información correcta. Este proceso de detección y corrección de errores estaba vinculado a productos finales de mayor calidad y a mejores resultados de aprendizaje individual. Los estudiantes que trabajaron en las condiciones visibles no solo produjeron un mejor trabajo, sino que también demostraron una mayor capacidad para aplicar lo aprendido a nuevas tareas posteriormente.

El estudio sugiere que el valor de la IA en el trabajo grupal depende menos de cuánto acceso tiene todo el mundo a la tecnología y más de si el grupo puede inspeccionar el trabajo. Cuando el camino de la producción de conocimiento es invisible, la responsabilidad se vuelve difusa y el grupo puede perder su capacidad de regular su propio aprendizaje. Cuando ese camino es visible, el grupo puede mantener su agencia, asegurando que la IA sirva como una herramienta para la indagación en lugar de una fuente de autoridad no examinada. La investigación indica que para que la IA sea un verdadero socio en el aprendizaje, las condiciones sociales deben permitir que el grupo vea, cuestione y repare las contribuciones de la máquina. Sin esa visibilidad, el grupo corre el riesgo de externalizar su pensamiento sin darse cuenta. Con ella, el grupo puede aprovechar el poder de la IA manteniendo la responsabilidad del conocimiento firmemente en manos humanas.