Human-GenAI Interaction: What are the Risks of Calling it “Collaboration”?

In de stille studie van hoe mensen samen leren, een veld dat bekend staat als computer-ondersteund collaboratief leren, hebben onderzoekers lang gefocust op de complexe dans van ontmoetende menselijke geesten. Ze bestuderen hoe studenten ideeën delen, elkaars denken uitdagen en begrip opbouwen door middel van gesprek. Centraal in dit werk staat het idee dat echt leren plaatsvindt wanneer mensen niet alleen zij aan zij werken, maar diep verbonden zijn in een gedeelde mentale ruimte waarin zij elkaars gedachten en gevoelens beïnvloeden. Decennialang waren de hulpmiddelen die dit ondersteunden eenvoudige middelen: whiteboards, gedeelde documenten of videogesprekken die hielpen mensen met andere mensen te verbinden. Maar een nieuwe kracht is de kamer binnengekomen. Generatieve kunstmatige intelligentie, de technologie achter de chatbots die essays kunnen schrijven, problemen kunnen oplossen en gesprekken kunnen voeren, wordt nu door zowel studenten als docenten gebruikt. Naarmate deze tools vaardiger worden, rijst een natuurlijke vraag: wanneer een mens met deze machine werkt, is er dan sprake van samenwerking? De term "collaboratie" suggereert een partnerschap tussen gelijken, een ontmoeting van geesten waarbij beide zijden bijdragen aan een gezamenlijk doel. Maar machines hebben geen geest, gevoelens of intenties zoals mensen die hebben. Dit creëert een spanning tussen de taal die we gebruiken om onze nieuwe tools te beschrijven en de realiteit van hoe die tools daadwerkelijk werken.

Twee onderzoekers, Gaëlle Molinari en Kristine Lund, zetten zich in om deze spanning te onderzoeken. Ze vroegen zich af of het een accurate beschrijving of een misleidende beschrijving is om de interactie tussen een persoon en een kunstmatige intelligentie "samenwerking" te noemen. Om dit te beantwoorden, keken ze naar de strikte definitie van samenwerking die in hun vakgebied wordt gehanteerd, die steunt op specifieke menselijke kwaliteiten zoals gedeeld begrip, wederzijdse invloed en emotionele verbinding. Ze vergeleken vervolgens deze menselijke kwaliteiten met wat de kunstmatige intelligentie daadwerkelijk doet. Hun onderzoek onthult dat hoewel de machine ongelooflijk nuttig kan zijn, de relatie die zij met een mens vormt fundamenteel verschilt van een partnerschap tussen twee mensen. De auteurs stellen dat het gebruik van het woord "samenwerking" om deze interactie te beschrijven riskant is, omdat het de lijn tussen mens en machine vervaagt, wat potentieel de manier waarop we menselijke verbinding waarderen en hoe studenten leren, verandert.

De onderzoekers begonnen met het traceren van de geschiedenis van hoe wij denken over mensen en machines die samenwerken. Lange tijd hebben wetenschappers zich een toekomst voorgesteld waarin menselijke en computervermogens samensmelten tot één enkel, krachtig systeem. Vroege denkers beschreven dit als een "symbiose", waarbij de machine de menselijke kracht uitbreidt, of als een "co-evolutie", waarbij zowel de mens als de machine door de tijd heen leren en veranderen. In de recente jaren is dit idee gekaderd als "hybride intelligentie", waarbij mensen en kunstmatige intelligentie worden gezien als twee delen van één systeem, elk met verschillende sterktes. Mensen bieden creativiteit, emotionele diepgang en ethisch oordeelsvermogen, terwijl machines snelheid, patroonherkenning en enorme gegevensverwerking bieden. Het doel van dit hybride systeem is het produceren van resultaten die noch de mens, noch de machine alleen zou kunnen bereiken. De auteurs wijzen er echter op dat hoewel dit klinkt als een partnerschap, de realiteit van de interactie vaak eenzijdig is. De machine leert niet echt van de mens op dezelfde manier als een persoon van een ander leert; het past zijn output aan op basis van statistische patronen, niet op basis van een oprecht begrip van de doelen of gevoelens van de menselijke partner.

Wanneer de onderzoekers de strikte regels van menselijke samenwerking toepasten op deze interacties, verschenen er verschillende hiaten. Echte samenwerking vereist dat beide partijen het perspectief van de ander begrijpen en samenwerken om betekenis te creëren. In een menselijke groep, als één persoon het oneens is, voelt de ander die weerstand en moet hij of zij het denken aanpassen. Deze frictie is essentieel voor het leren. Bij een kunstmatige intelligentie heeft de machine echter geen perspectief om vast te houden of een geest om te veranderen. Het kan een tegenargument genereren, maar het "valt niet in oneensheid" in de menselijke zin; het berekent simpelweg een reactie die bij het gesprek past. De auteurs vonden dat de machine niet kan deelnemen aan "intersubjectiviteit", een staat waarin twee mensen een mentale ruimte delen en elkaars innerlijke wereld werkelijk begrijpen. De machine kan de schijn van begrip nabootsen, maar bezit niet de bewustheid die nodig is om een ander werkelijk te kennen.

Dit onderscheid wordt nog kritischer wanneer men kijkt naar de emotionele en sociale kant van leren. Menselijke samenwerking is diep geworteld in ons lichaam en onze gevoelens. We voelen empathie, we raken gefrustreerd en we bouwen een gevoel van "wij-heid" op door gedeelde ervaringen. Een kunstmatige intelligentie kan geprogrammeerd worden om op emotionele signalen te reageren, bijvoorbeeld door een troostend woord te bieden wanneer een gebruiker verdrietig lijkt. Maar de machine voelt zelf geen verdriet. Het kan niet door de mens worden beïnvloed op de manier waarop een mens door een ander wordt beïnvloed. De auteurs beschrijven dit als een diepe asymmetrie: de mens kan een verbinding voelen, maar de machine blijft een instrument dat die verbinding simuleert zonder deze te ervaren. Dit creëert het risico dat gebruikers, vooral studenten, hun eigen emotionele behoeften op de machine projecteren, in de veronderstelling dat zij een wederkerige relatie hebben waar die niet bestaat.

De gevolgen van het een "samenwerking" noemen van deze interactie zijn aanzienlijk voor het onderwijs. Als studenten geloven dat ze met een partner werken, kunnen ze beginnen te veel op de machine te vertrouwen, waardoor ze hun eigen denken en besluitvorming aan de machine overlaten. Dit staat bekend als "cognitieve offloading", waarbij een persoon vertrouwt op een extern hulpmiddel om het mentale werk voor hen te doen. Hoewel dit taken gemakkelijker kan maken, waarschuwen de auteurs dat dit kan leiden tot "cognitieve overgave", waarbij de student stopt met het monitoren van het eigen leerproces en simpelweg accepteert wat de machine produceert. Onderzoek suggereert dat wanneer studenten te zwaar op deze tools vertrouwen, hun kritische denkvaardigheden kunnen verzwakken en ze slechter kunnen presteren op toetsen die diep begrip vereisen. De machine helpt hen misschien sneller met huiswerk afmaken, maar het helpt hen misschien niet om de stof te leren.

Verder betogen de auteurs dat het behandelen van de machine als een partner de manier waarop we menselijke relaties zien, verandert. Als we wennen aan een kunstmatige intelligentie die altijd meegaand is, altijd beschikbaar is en ons nooit echt uitdaagt, kunnen we beginnen hetzelfde van onze menselijke vrienden en docenten te verwachten. We kunnen beginnen de voorkeur te geven aan de soepele, wrijvingsloze interactie met een machine boven het rommelige, moeilijke, maar uiteindelijk meer belonende proces van het werken met een andere mens. De machine kan een krachtig instrument zijn, maar het "samenwerking" noemen van de machine verhult het feit dat het een instrument is. Het mist de agency, de verantwoordelijkheid en het vermogen tot oprechte wederzijdse verstaanis die menselijk partnerschap definiëren.

De onderzoekers concluderen dat we voorzichtig moeten zijn met onze taal. Het gebruik van het woord "samenwerking" om de mens-GenAI interactie te beschrijven is niet alleen een semantische fout; het is een conceptuele verschuiving die onze onderwijspraktijken en sociale verwachtingen zou kunnen hervormen. Door te aandringen op het onderscheid tussen menselijke samenwerking en mens-machine interactie, beschermen we de unieke waarde van menselijke verbinding. We zorgen ervoor dat studenten hun eigen geest blijven ontwikkelen door het uitdagende, wederkerige en diep menselijke proces van werken met anderen, in plaats van hun denken uit te besteden aan een machine die slechts doet alsof het een partner is. De machine is een opmerkelijke uitvinding, maar het is geen gelijke, en het erkennen van dat verschil is essentieel voor de toekomst van het leren.