Who Answers for AI? Epistemic Visibility, Responsibility, and Error Repair in Collaborative Learning

In de moderne klaslokaal en de moderne werkomgeving lossen groepen problemen vaak samen op door hun kennis te bundelen. Dit proces rust op een delicate sociale afspraak: wanneer iemand een idee aanbiedt, moet de groep weten waar het vandaan kwam, hoe het tot stand is gekomen en wie verantwoordelijk is voor het controleren van de juistheid ervan. Dit is het fundament van collaboratief leren, waarbij het doel niet alleen het delen van informatie is, maar het opbouwen van een gedeeld begrip dat niemand alleen zou kunnen creëren. Er is echter een nieuwe laag aan deze dynamiek toegevoegd: kunstmatige intelligentie. Wanneer een student of werknemer een AI-tool gebruikt om een antwoord te genereren, staat hij voor een cruciale keuze. Hij kan het idee terugbrengen naar de groep als een eenvoudige suggestie, waarbij hij het feit verbergt dat een machine het heeft geproduceerd. Of hij kan de volledige geschiedenis van dat idee onthullen, door de gestelde vragen, de ruwe antwoorden en de gemaakte bewerkingen te tonen. Dit onderscheid creëert een kloof tussen wat de groep ziet en wat er werkelijk is gebeurd. De vraag is niet of AI helpt, maar hoe de zichtbaarheid van de bijdrage de manier verandert waarop mensen samenwerken, discussiëren en fouten herstellen.

Een onderzoeker aan University College London zette zich schare om deze kloof te verkennen door te observeren hoe promovendi in groepen werkten gedurende een periode van acht weken. De onderzoeker vroeg de studenten niet simpelweg wat ze over AI vonden; de onderzoeker observeerde hen terwijl ze in real time werkten. De onderzoeker organiseerde achtenveertig studenten in twaalf groepen en gaf hen een complexe taak: het ontwerpen van een educatieve interventie om ongelijkheden in het wetenschaps- en wiskundeonderwijs aan te pakken. Om te zien hoe zichtbaarheid ertoe deed, roteerden de studenten door drie verschillende manieren van het gebruik van AI. In het eerste scenario kon een student AI privé gebruiken. Ze konden een vraag typen, een antwoord krijgen, het bewerken en het eindresultaat in het groepsdocument plakken zonder dat iemand anders het proces zag. In het tweede scenario gebruikte de student nog steeds zijn eigen privé AI-tool, maar een speciaal paneel op het scherm toonde de rest van de groep precies wat er getypt werd, wat de machine zei en hoe de student het veranderde. In het derde scenario gebruikte de hele groep samen één enkele AI-tool, waarbij iedereen de vragen en antwoorden kon zien terwijl ze gebeurden.

De onderzoeker nam elk woord op dat de studenten spraken, elke toetsaanslag die ze maakten en elke wijziging die ze in hun documenten aanbrachten. De onderzoeker introduceerde ook specifieke momenten waarop de AI werd geprogrammeerd om een foutief of misleidend antwoord te geven, enkel om te zien hoe de groep zou reageren. De onderzoeker wilde weten of de groep de fout zou ontdekken, wie zich verantwoordelijk zou voelen voor het herstel, en of het eindproduct beter zou zijn als iedereen het werk van de AI kon zien.

De studie toonde aan dat wanneer het werk van de AI verborgen was, de groepsdynamiek verschoof op een manier die het leren minder effectief maakte. Wanneer een student de private, ondoorzichtige AI gebruikte, werd hij vaak de enige poortwachter van die informatie. Hij bracht een gepolijst idee naar de groep, en omdat de anderen de oorspronkelijke output van de machine of de vragen die tot dat idee leidden niet konden zien, behandelden zij het idee alsof het rechtstreeks van de student kwam. Dit creëerde een situatie waarin de student die de AI controleerde, alle macht bezat om te beslissen wat de groep wist. Als de AI een fout maakte, realiseerden de andere studenten zich vaak niet dat ze het werk moesten controleren. Ze namen aan dat de student het al had geverifieerd, of ze accepteerden het vloeiend klinkende antwoord simpelweg zonder vragen te stellen. De verantwoordelijkheid voor het idee verschoof stilletjes van de groep naar de individuele student, en verdween vervolgens vaak volledig, waardoor niemand de claim echt toe-eigende.

Wanneer de onderzoeker het werk van de AI zichtbaar maakte, veranderde het gedrag van de groepen drastisch. In de conditie waarin studenten hun eigen AI gebruikten maar de volledige geschiedenis aan de groep toonden, werd de dynamiek veel evenwichtiger. De andere leden konden precies zien wat de machine had gezegd en hoe de student het had bewerkt. Deze transparantie stelde de groep in staat om als een team van inspecteurs op te treden. Zij konden vragen: "Waarom heb je de AI dat vragen?" of "De machine zei dit, maar jij hebt dat deel veranderd; waarom?" Deze zichtbaarheid veranderde de AI van een zwarte doos in een gedeeld object dat de groep samen kon onderzoeken. De studenten waren eerder geneigd de suggesties van de AI uit te dagen, feiten te verifiëren en fouten te herstellen wanneer deze optraden. De groep accepteerde de output niet alleen; zij reguleerden het proces actief, waarbij zij gezamenlijk beslisten wat betrouwbaar was en wat meer werk vereiste.

Interessant genoeg toonde de studie aan dat het hebben van een gedeelde AI-werkruimte, waarbij iedereen tegelijkertijd dezelfde tool gebruikte, niet altijd betere resultaten opleverde dan de traceerbare persoonlijke AI. Hoewel de gedeelde werkruimte de output van de AI publiek maakte, stimuleerde het niet noodzakelijkerwijs dezelfde mate van kritische inspectie als de traceerbare persoonlijke conditie. De cruciale factor was niet alleen dat iedereen het scherm kon zien, maar dat zij de specifieke weg konden zien van hoe een individuele student met de machine interageerde. Het vermogen om de geschiedenis van een bewering te traceren — van de initiële vraag tot de uiteindelijke bewerkte zin — leek het krachtigste instrument te zijn om de groep eerlijk te houden.

De onderzoeker keek ook naar hoe de groepen de specifieke momenten afhandelden waarop de AI een foutief antwoord gaf. In de verborgen condities gliptten deze fouten vaak onopgemerkt in het uiteindelijke groepsproject, of werden ze geaccepteerd zonder een echt debat over hun geldigheid. In de zichtbare condities werden de fouten trigger-gebeurtenissen voor samenwerking. De groep pauzeerde, besprak de discrepantie en werkte samen om de juiste informatie te vinden. Dit proces van het detecteren en herstellen van fouten was gekoppeld aan kwalitatief betere eindproducten en betere individuele leerresultaten. De studenten die werkten in de zichtbare condities produceerden niet alleen beter werk, maar toonden ook een sterker vermogen om wat ze hadden geleerd toe te passen op nieuwe taken later.

De studie suggereert dat de waarde van AI in groepsverband minder afhangt van hoeveel toegang iedereen heeft tot de technologie en meer van de vraag of de groep het werk kan inspecteren. Wanneer het pad van de kennisproductie onzichtbaar is, wordt de verantwoordelijkheid vaag en kan de groep het vermogen verliezen om haar eigen leren te reguleren. Wanneer dat pad zichtbaar is, kan de groep haar agency behouden, waardoor zij ervoor zorgt dat de AI dient als een instrument voor onderzoek in plaats van een bron van ongecontroleerd gezag. Het onderzoek geeft aan dat voor AI een ware partner in het leren te zijn, de sociale condities moeten toestaan dat de groep de bijdragen van de machine kan zien, bevragen en herstellen. Zonder die zichtbaarheid loopt de groep het risico haar denken uit te besteden zonder het te beseffen. Met die zichtbaarheid kan de groep de kracht van AI benutten terwijl de verantwoordelijkheid voor kennis stevig in menselijke handen blijft.