Who Answers for AI? Epistemic Visibility, Responsibility, and Error Repair in Collaborative Learning

Dans la salle de classe moderne et dans le milieu de travail moderne, les groupes résolvent souvent des problèmes ensemble en mettant en commun leurs connaissances. Ce processus repose sur un accord social délicat : lorsque quelqu'un propose une idée, le groupe doit savoir d'où elle vient, comment elle a été formée et qui est responsable de vérifier son exactitude. C'est le fondement de l'apprentissage collaboratif, où l'objectif n'est pas seulement de partager l'information, mais de construire une compréhension partagée qu'une seule personne ne pourrait créer seule. Cependant, une nouvelle couche s'est ajoutée à cette dynamique : l'intelligence artificielle. Lorsqu'un étudiant ou un employé utilise un outil d'IA pour générer une réponse, il est confronté à un choix critique. Il peut apporter l'idée au groupe comme une simple suggestion, en cachant le fait qu'une machine l'a produite. Ou bien, il peut révéler tout l'historique de cette idée, en montrant les questions posées, les réponses brutes générées et les modifications effectuées. Cette distinction crée un fossé entre ce que le groupe voit et ce qui s'est réellement passé. La question n'est pas de savoir si l'IA aide, mais comment la visibilité de sa contribution modifie la façon dont les gens font confiance, argumentent et corrigent les erreurs lorsqu'ils travaillent ensemble.

Un chercheur de l'University College London s'est donné pour mission d'explorer ce fossé en observant comment des étudiants de troisième cycle travaillaient en groupes sur une période de huit semaines. Il n'a pas simplement demandé aux étudiants ce qu'ils pensaient de l'IA ; il les a observés travailler en temps réel. Le chercheur a organisé quarante-huit étudiants en douze groupes et leur a confié une tâche complexe : concevoir une intervention éducative pour corriger les inégalités dans l'enseignement des sciences et des mathématiques. Pour voir si la visibilité importait, les étudiants ont alterné entre trois manières différentes d'utiliser l'IA. Dans le premier scénario, un étudiant pouvait utiliser l'IA de manière privée. Il pouvait taper une question, obtenir une réponse, la modifier et la coller dans le document du groupe sans que personne d'autre ne voie le processus. Dans le deuxième scénario, l'étudiant utilisait toujours son propre outil d'IA privé, mais un panneau spécial sur l'écran montrait exactement au reste du groupe ce qui avait été tapé, ce que la machine avait dit et comment l'étudiant l'avait modifié. Dans le troisième scénario, tout le groupe utilisait un seul outil d'IA ensemble, où tout le monde pouvait voir les questions et les réponses au fur et à mesure.

Le chercheur a enregistré chaque mot prononcé par les étudiants, chaque frappe de touche qu'ils ont effectuée et chaque modification apportée à leurs documents. Il a également introduit des moments spécifiques où l'IA était programmée pour donner une réponse fausse ou trompeuse, juste pour voir comment le groupe réagirait. Il voulait savoir si le groupe détecterait l'erreur, qui se sentirait responsable de la corriger, et si le produit final serait meilleur si tout le monde pouvait voir le travail de l'IA.

L'étude a révélé que lorsque le travail de l'IA était caché, la dynamique de groupe changeait de telle manière que l'apprentissage devenait moins efficace. Lorsqu'un étudiant utilisait l'IA privée et opaque, il devenait souvent le seul gardien de cette information. Il apportait une idée polie au groupe, et parce que les autres ne pouvaient pas voir la production originale de la machine ou les questions qui y avaient conduit, ils traitaient l'idée comme si elle provenait directement de l'étudiant. Cela créait une situation où l'étudiant qui contrôlait l'IA détenait tout le pouvoir de décider de ce que le groupe savait. Si l'IA commettait une erreur, les autres étudiants ne réalisaient souvent pas qu'ils devaient vérifier le travail. Ils supposaient que l'étudiant l'avait déjà vérifié, ou ils acceptaient simplement la réponse au ton fluide sans poser de questions. La responsabilité de l'idée passait discrètement de l'individu au groupe, puis disparaissait souvent totalement, laissant personne pour véritablement assumer la revendication.

Lorsque le chercheur rendait le travail de l'IA visible, le comportement des groupes changeait radicalement. Dans la condition où les étudiants utilisaient leur propre IA mais montraient l'historique complet au groupe, la dynamique devenait beaucoup plus équilibrée. Les autres membres pouvaient voir exactement ce que la machine avait dit et comment l'étudiant l'avait modifié. Cette transparence permettait au groupe d'agir comme une équipe d'inspecteurs. Ils pouvaient demander : « Pourquoi as-tu posé cette question à l'IA ? » ou « La machine a dit ceci, mais tu as changé cette partie ; pourquoi ? ». Cette visibilité transformait l'IA d'une boîte noire en un objet partagé que le groupe pouvait examiner ensemble. Les étudiants étaient plus enclins à contester les suggestions de l'IA, à vérifier les faits et à réparer les erreurs lorsqu'elles se produisaient. Le groupe ne se contentait pas d'accepter le résultat ; il régulait activement le processus, décidant ensemble de ce qui était digne de confiance et de ce qui nécessitait plus de travail.

De manière intéressante, l'étude a trouvé que disposer d'un espace de travail d'IA partagé, où tout le monde utilisait le même outil en même temps, ne produisait pas toujours de meilleurs résultats que l'IA personnelle traçable. Bien que l'espace de travail partagé rendait la production de l'IA publique, il n'encourageait pas nécessairement le même niveau d'inspection critique que la condition de l'IA personnelle traçable. Le facteur clé n'était pas seulement que tout le monde puisse voir l'écran, mais qu'ils puissent voir le chemin spécifique de l'interaction d'un seul étudiant avec la machine. La capacité de retracer l'historique d'une affirmation — de la question initiale à la phrase finale modifiée — semblait être l'outil le plus puissant pour maintenir l'honnêteté du groupe.

Le chercheur a également observé comment les groupes géraient les moments spécifiques où l'IA donnait une mauvaise réponse. Dans les conditions cachées, ces erreurs s'inséraient souvent dans le projet final du groupe sans être remarquées, ou elles étaient acceptées sans un véritable débat sur leur validité. Dans les conditions visibles, les erreurs devenaient des événements déclencheurs de collaboration. Le groupe marquait une pause, discutait de la divergence et travaillait ensemble pour trouver l'information correcte. Ce processus de détection et de correction des erreurs était lié à des produits finaux de meilleure qualité et à de meilleurs résultats d'apprentissage individuels. Les étudiants qui travaillaient dans les conditions visibles non seulement produisaient un meilleur travail, mais démontraient également une plus grande capacité à appliquer ce qu'ils avaient appris à de nouvelles tâches ultérieurement.

L'étude suggère que la valeur de l'IA dans le travail de groupe dépend moins de l'accès de chacun à la technologie que de la capacité du groupe à inspecter le travail. Lorsque le chemin de la production de connaissances est invisible, la responsabilité devient floue et le groupe peut perdre sa capacité à réguler son propre apprentissage. Lorsque ce chemin est visible, le groupe peut maintenir son agence, garantissant que l'IA serve d'outil d'investigation plutôt que de source d'autorité non examinée. La recherche indique que pour que l'IA soit un véritable partenaire d'apprentissage, les conditions sociales doivent permettre au groupe de voir, de questionner et de réparer les contributions de la machine. Sans cette visibilité, le groupe risque d'externaliser sa pensée sans s'en rendre compte. Avec elle, le groupe peut exploiter la puissance de l'IA tout en gardant la responsabilité de la connaissance fermement entre les mains humaines.