Human-GenAI Interaction: What are the Risks of Calling it “Collaboration”?

Dans l'étude tranquille de la manière dont les gens apprennent ensemble, un domaine connu sous le nom d'apprentissage collaboratif assisté par ordinateur, les chercheurs se sont longtemps concentrés sur la danse complexe des esprits humains qui se rencontrent. Ils étudient comment les étudiants partagent des idées, remettent en question la pensée de l'autre et construindent la compréhension à travers la conversation. Au cœur de ce travail se trouve l'idée que le véritable apprentissage se produit lorsque les personnes ne font pas que travailler côte à côte, mais sont profondément connectées dans un espace mental partagé où elles influencent mutuellement leurs pensées et leurs sentiments. Pendant des décennies, les outils utilisés pour soutenir cela étaient des aides simples : des tableaux blancs, des documents partagés ou des appels vidéo qui aidaient les humains à se connecter avec d'autres humains. Mais une nouvelle force est entrée dans la pièce. L'intelligence artificielle générative, la technologie derrière les chatbots capables d'écrire des essais, de résoudre des problèmes et de tenir des conversations, est désormais utilisée par les étudiants et les enseignants. À mesure que ces outils deviennent plus capables, une question naturelle surgit : lorsqu'un humain travaille avec cette machine, collabore-t-il ? Le terme « collaboration » suggère un partenariat d'égaux, une rencontre d'esprits où les deux parties contribuent à un objectif commun. Mais les machines n'ont ni esprit, ni sentiments, ni intentions comme les humains. Cela crée une tension entre le langage que nous utilisons pour décrire nos nouveaux outils et la réalité du fonctionnement de ces outils.

Deux chercheuses, Gaëlle Molinari et Kristine Lund, ont entrepris d'examiner cette tension. Elles se sont demandé si appeler l'interaction entre une personne et une intelligence artificielle « collaboration » est une description exacte ou trompeuse. Pour répondre à cela, elles se sont appuyées sur la définition stricte de la collaboration utilisée dans leur domaine, qui repose sur des qualités humaines spécifiques telles que la compréhension partagée, l'influence mutuelle et la connexion émotionnelle. Elles ont ensuite comparé ces qualités humaines à ce que l'intelligence artificielle fait réellement. Leur enquête révèle que, bien que la machine puisse être incroyablement utile, la relation qu'elle forme avec un humain est fondamentalement différente d'un partenariat entre deux personnes. Les auteures soutiennent que l'utilisation du mot « collaboration » pour décrire cette interaction est risquée car elle brouille la ligne entre l'humain et la machine, changeant potentiellement la façon dont nous valorisons la connexion humaine et la façon dont les étudiants apprennent.

Les chercheuses ont commencé par retracer l'histoire de notre conception du travail conjoint entre humains et machines. Pendant longtemps, les scientifiques ont imaginé un futur où les capacités humaines et informatiques fusionneraient en un système unique et puissant. Les premiers penseurs décrivaient cela comme une « symbiose », où la machine étend la puissance humaine, ou comme une « coévolution », où l'humain et la machine apprennent et changent ensemble au fil du temps. Ces dernières années, cette idée a été formulée sous le terme d'« intelligence hybride », où les humains et l'intelligence artificielle sont vus comme les deux parties d'un seul système, chacun apportant des forces différentes. Les humains offrent la créativité, la profondeur émotionnelle et le jugement éthique, tandis que les machines offrent la vitesse, la reconnaissance de formes et le traitement massif de données. Le but de ce système hybride est de produire des résultats qu'aucun des deux ne pourrait atteindre seul. Cependant, les auteures soulignent que, bien que cela ressemble à un partenariat, la réalité de l'interaction est souvent unilatérale. La machine n'« apprend » pas vraiment de l'humain de la même manière qu'une personne apprend d'une autre ; elle ajuste sa production en fonction de modèles statistiques, et non sur une compréhension véritable des objectifs ou des sentiments du partenaire humain.

Lorsque les chercheuses ont appliqué les règles strictes de la collaboration humaine à ces interactions, plusieurs lacunes sont apparues. La véritable collaboration exige que les deux parties comprennent la perspective de l'autre et travaillent ensemble pour construire du sens. Dans un groupe humain, si une personne exprime un désaccord, l'autre ressent cette résistance et doit ajuster sa pensée. Cette friction est essentielle pour l'apprentissage. Avec une intelligence artificielle, cependant, la machine n'a pas de perspective à défendre ni d'esprit à changer. Elle peut générer un contre-argument, mais elle ne « désapprouve » pas au sens humain du terme ; elle calcule simplement une réponse qui correspond à la conversation. Les auteures ont constaté que la machine ne peut pas participer à l'« intersubjectivité », cet état où deux personnes partagent un espace mental et comprennent véritablement le monde intérieur l'une de l'autre. La machine peut imiter l'apparence de la compréhension, mais elle ne possède pas la conscience requise pour véritablement connaître une autre personne.

Cette distinction devient encore plus critique lorsqu'on examine le côté émotionnel et social de l'apprentissage. La collaboration humaine est profondément ancrée dans nos corps et nos sentiments. Nous ressentons de l'empathie, nous éprouvons de la frustration et nous construisons un sentiment de « nous » à travers des expériences partagées. Une intelligence artificielle peut être programmée pour répondre à des indices émotionnels, offrant peut-être un mot de réconfort lorsqu'un utilisateur semble triste. Mais la machine ne ressent pas la tristesse elle-même. Elle ne peut pas être affectée par l'humain de la même manière qu'un humain est affecté par un autre. Les auteures décrivent cela comme une asymétrie profonde : l'humain peut ressentir une connexion, mais la machine reste un outil qui simule cette connexion sans l'expérimenter. Cela crée le risque que les utilisateurs, en particulier les étudiants, projettent leurs propres besoins émotionnels sur la machine, croyant avoir une relation réciproque là où il n'en existe aucune.

Les conséquences de qualifier cette interaction de « collaboration » sont significatives pour l'éducation. Si les étudiants croient travailler avec un partenaire, ils peuvent commencer à trop faire confiance à la machine, confiant à celle-ci leur propre réflexion et leur prise de décision. C'est ce qu'on appelle le « déchargement cognitif » (cognitive offloading), où une personne s'appuie sur un outil externe pour effectuer le travail mental à sa place. Bien que cela puisse faciliter les tâches, les auteures préviennent que cela peut mener à une « reddition cognitive » (cognitive surrender), où l'étudiant cesse de surveiller son propre apprentissage et accepte simplement tout ce que la machine produit. La recherche suggère que lorsque les étudiants dépendent trop de ces outils, leurs capacités de pensée critique peuvent s'affaiblir et ils peuvent obtenir de moins bons résultats aux tests exigeant une compréhension profonde. La machine peut les aider à finir leurs devoirs plus vite, mais elle ne les aidera pas forcément à apprendre la matière.

De plus, les auteures soutiennent que traiter la machine comme un partenaire modifie notre vision des relations humaines. Si nous nous habituons à une intelligence artificielle qui est toujours d'accord, toujours disponible et qui ne nous défie jamais vraiment, nous pourrions commencer à attendre la même chose de nos amis et de nos enseignants. Nous pourrions commencer à privilégier l'interaction fluide et sans friction avec une machine par rapport au processus laborieux, difficile, mais finalement plus gratifiant, de travail avec un autre humain. La machine peut être un outil puissant, mais l'appeler « collaboratrice » occulte le fait qu'elle est un outil. Elle manque d'agence, de responsabilité et de capacité de compréhension mutuelle authentique qui définissent le partenariat humain.

Les chercheuses concluent que nous devons être prudents avec notre langage. Utiliser le mot « collaboration » pour décrire l'interaction humain-IA générative n'est pas seulement une erreur sémantique ; c'est un changement conceptuel qui pourrait remodeler nos pratiques éducatives et nos attentes sociales. En insistant sur la distinction entre la collaboration humaine et l'interaction humain-machine, nous protégeons la valeur unique de la connexion humaine. Nous garantissons que les étudiants continuent de développer leur propre esprit à travers le processus exigeant, réciproque et profondément humain du travail avec autrui, plutôt que d'externaliser leur pensée à une machine qui ne fait que prétendre être un partenaire. La machine est une invention remarquable, mais elle n'est pas un pair, et reconnaître cette différence est essentiel pour l'avenir de l'apprentissage.