I, Creative Cyborg: An Autoethnographic Account of Poietic Rumination, GenAI, and the Act of Academic Research

In de moderne wereld is de grens tussen mens en machine steeds vager geworden. We hebben lang geaccepteerd dat onze hulpmiddelen ons vormen, van de manier waarop we met een pen schrijven tot hoe we navigeren met een GPS. In de wereld van het hoger onderwijs is een nieuw soort hulpmiddel gearriveerd: generatieve kunstmatige intelligentie. Deze systemen kunnen essays schrijven, boeken samenvatten en problemen oplossen met een snelheid en vloeiendheid die vaak menselijk denken nabootst. Dit heeft een verhit debat ontketend onder wetenschappers en studenten: is deze technologie een partner die ons helpt beter te denken, of is het een afkorting die ons verhindert om überhaupt nog na te denken? Om dit te beantwoorden, zijn onderzoekers begonnen nauwkeurig te kijken naar het eigenlijke proces van academisch werk. Ze vragen zich af welke delen van onderzoek aan een machine kunnen worden overgedragen en welke delen strikt menselijk moeten blijven. De kernvraag gaat niet alleen over efficiëntie, maar over de aard van begrip zelf. Als een computer een perfecte paragraaf kan produceren, betekent dat dan dat hij het idee heeft begrepen, of heeft hij simpelweg woorden gerangschikt op een manier die lijkt op begrip?

Ray Grewal, een onderzoeker aan de University of the Arts London, besloot deze vraag te onderzoeken door de lens op zijn eigen werk te richten. Hij schreef een masterscriptie over het onderwerp hoe kunstmatige intelligentie creativiteit en leren beïnvloedt, maar hij deed iets ongewoons: hij hield een gedetailleerd, eerlijk dagboek bij van elke keer dat hij een computerprogramma gebruikte om hem te helpen. Hij legde elke vraag vast die hij aan de machine stelde, elk antwoord dat het gaf, en hoe hij die antwoorden gebruikte. Hij vergelekelde dit dagboek vervolgens met het uiteindelijke geschreven werk om precies te zien waar de machine hielp en waar het faalde. Zijn doel was om de grenzen van de menselijke geest in kaart te brengen wanneer deze samenwerkt met een krachtige digitale assistent. Hij wilde uitzoeken of de machine echt de last van het denken kon delen, of dat het alleen in staat was om het zware werk van de data op te knappen, terwijl de menselijke geest het eigenlijke werk van het betekenis geven moest doen.

De studie laat zien dat de relatie tussen de onderzoeker en de machine geen partnerschap van gelijken is, maar een taakverdeling tussen de periferie en de kern. Aan de periferie bleek de machine een ongelooflijk nuttig hulpmiddel. Het fungeerde als een onvermoeibare tutor die complexe ideeën in eenvoudige termen uitlegde wanneer de onderzoeker vastliep. Het diende als een onderzoeksassistent die door honderden academische artikelen spitte om de meest relevante te vinden, wat uren aan leestijd bespaarde. Het functioneerde als een dataprocessor die enquêtegegevens organiseerde en grafieken maakte van ruwe cijfers met perfecte nauwkeurigheid. Het hielp zelfs bij het ontwerpen van de vragenlijsten en lesplannen die nodig waren voor de studie. Op deze gebieden breidde de machine de reikwijdte van de onderzoeker uit, waardoor er meer werk kon worden verricht in minder tijd. Het was een prothese die de onderzoeker meer in staat stelde, net zoals een telescoop een astronoom helpt verder te kijken.

Echter, de machine liep tegen een harde muur aan toen het werk verschoof van de periferie naar de kern van het onderzoeksproces. De studie identificeert een specifieke cyclus van menselijk denken die de machine niet kon repliceren. Deze cyclus bestaat uit vijf stadia: informatie opnemen, er diep over nadenken, verschillende ideeën verbinden om tot een nieuw begrip te komen, dat begrip in woorden uitdrukken, en tot slot reflecteren op feedback om het werk te verbeteren. De machine kon assisteren bij de eerste fase door informatie te vinden, maar kon niet werkelijk lezen of de weerstand van een moeilijke tekst begrijpen. Het kon niet bij een verwarrend idee blijven zitten tot het begrepen werd. Het belangrijkste is dat het niet de sprong kon maken om twee verre theorieën te verbinden om tot een nieuw inzicht te komen. Toen de onderzoeker probeerde twee verschillende kaders voor de studie te combineren, stemde de machine enthousiast in met het plan, ook al waren de twee kaders in werkelijkheid onverenigbaar. Het was de menselijke onderzoeker die, door het langzame, moeilijke werk van het denken, uiteindelijk de fout besefte en het voorstel van de machine moest verwerpen.

De machine faalde ook bij de stadia van het schrijven en de reflectie. Het kon vloeiende zinnen genereren, maar het kon niet schrijven met de intentie om een specifieke gedachte van de ene geest naar de andere over te dragen. Wanneer de onderzoeker de machine gebruikte om secties van het artikel te concepten, waren die concepten vaak slechts lege plaatshouders die volledig herschreven moesten worden om het gewicht van het eigen begrip van de onderzoeker te dragen. Op dezelfde manier kon de machine niet de soort feedback bieden die een onderzoeker van gedachten doet veranderen. Ware reflectie komt voort uit de wrijving van een menselijke criticus die een moeilijke vraag stelt of een gat in de logica aanwijst. De machine is daarentegen de neiging om te meegaand te zijn, en biedt soepele antwoorden die de strijd die nodig is voor diepgaand leren, juist wegnemen. De studie vond dat het vertrouwen op de machine voor deze kerntaken de onderzoeker niet slimmer zou maken; het zou simpelweg het mentale spieropbouwproces passeren dat plaatsvindt wanneer een persoon zelfstandig worstelt met het oplossen van een probleem.

Dit leidt tot een cruciaal onderscheid in hoe we de "cyborg" van de toekomst moeten zien. De term cyborg, vaak gebruikt om een mens te beschrijven die versmolten is met technologie, suggereert een naadloze versmelting. Maar dit onderzoek suggereert dat de meest effectieve cyborg niet degene is die volledig versmelt met de machine, maar degene die precies weet waar de grens te trekken. De machine moet worden toegestaan de logistiek, de data en de initiële zoektocht naar informatie te afhandelen. Maar de mens moet het centrum van het proces bewaken: het diepe denken, de synthese van ideeën en de kritische reflectie. Als de mens de machine het overnemen van de kern laat, loopt hij het risico de capaciteit te verliezen die het onderzoek waardevol maakt. Het gevaar is niet dat de machine de mens zal vervangen, maar dat de mens zal stoppen met het zware werk van het denken omdat de machine het er gemakkelijk uit laat zien.

De bevindingen bieden een duidelijk pad voor degenen die deze hulpmiddelen gebruiken. Het advies is om het specifieke mentale werk te benoemen dat wordt verricht en te vragen of de machine dat werk ondersteunt of vervangt. Als de taak het organiseren van data of het vinden van een definitie is, is de machine een krachtige bondgenoot. Als de taak is om een complex argument te begrijpen, twee theorieën te verbinden of te beslissen wat een stuk tekst werkelijk betekent, moet de mens de leiding nemen. De studie concludeert dat de waarde van kunstmatige intelligentie in onderzoek ligt in haar vermogen om tijd en energie vrij te maken, en niet in haar vermogen om het denken voor ons te doen. Het belangrijkste wat een onderzoeker kan doen, is de langzame, ongemakkelijke uren van diep nadenken te beschermen, om ervoor te zorgen dat het eindproduct een oprechte expressie is van menselijk begrip in plaats van een gepolijste rangschikking van woorden. Uiteindelijk heeft de machine de mens nodig om de output betekenis te geven, maar de mens heeft de machine niet nodig om te denken; de mens heeft de machine alleen nodig om beter te helpen denken.