Who Designs the Designer? Behavioural Architecture for GenAI in Education
Dit artikel stelt een "gedragsarchitectuur" voor voor GenAI in het onderwijs die de ontwerpmacht verschuift van leveranciers naar een gedeeld governance-model tussen docenten, studenten en het systeem, waarbij wordt betoogd dat toezicht op EU-niveau essentieel is om studenten in staat te stellen hun eigen leerprofielen mede te creëren en te controleren, terwijl de momenteel onbezette rol van "ontwerper" wordt geadresseerd.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Probleem: De "Bad Cop" en de "Robo-Tutor"
Stel je voor dat het huidige debat over AI op scholen vastzit tussen twee kapotte speeltjes.
- De "Bad Cop" (AI verbieden): Sommige scholen proberen AI volledig te verbieden, zoals een strenge ouder die een telefoon in beslag neemt. Ze gebruiken detectoren om te controlen of leerlingen spieken. Maar deze detectoren zijn als gebrekkige metaaldetectoren bij een vliegveld; ze geven vaak onterecht "gevaar!" aan als een leerling gewoon onschuldig is (zoals een neurodivergente leerling die in zijn eigen unieke stijl schrijft). Dit leidt tot onterechte beschuldigingen en juridische strijd.
- De "Robo-Tutor" (AI gericht op alleen inhoud): Andere scholen omarmen AI, maar gebruiken het alleen om feiten te leveren, zoals een verkoopautomaat die het juiste tekstboekhoofdstuk uitspuugt op basis van wat je fout had. Het is slim over wat je leert, maar het geeft niet om hoe je je voelt, wat je motiveert of je persoonlijkheid.
De Realiteit: Leerlingen gebruiken AI al (95% van hen), maar ze doen dit op hun eigen manier, zonder regels. Ze gebruiken commerciële apps die in het geheim profielen opbouwen van hun gewoonten zonder hen om toestemming te vragen. Het artikel stelt dat zowel de "Bad Cop" als de "Robo-Tutor" falen omdat ze het menselijke element negeren: persoonlijkheid, motivatie en emotie.
De Oplossing: "Gedragsarchitectuur"
De auteur stelt een nieuwe manier voor om AI te bouwen, genaamd Gedragsarchitectuur.
De Analogie: De Co-Auteur versus de Stalker
Stel je voor dat jouw leerproces een boek is.
- Huidige AI (De Stalker): De AI observeert je vanuit de schaduwen. De AI raadt je persoonlijkheid door te meten hoe snel je klikt of hoe lang je naar een scherm staart. Het schrijft een geheim profiel over jou dat jij niet kunt zien, en gebruikt dat om de les aan te passen. Je hebt er geen inspraak in.
- De Nieuwe Architectuur (De Co-Auteur): De AI en de leerling gaan samen aan tafel om het boek te schrijven.
- De Docent bepaalt de bestemming (de leerdoelen).
- De Leerling is de co-auteur. Zij vertellen de AI: "Ik leer beter als ik pauzes neem," of "Ik word nerveus van wiskunde, dus laten we een andere aanpak proberen."
- De AI fungeert als de griffier. Het legt vast wat de leerling zegt, stelt wijzigingen voor, maar raadt nooit je gevoelens zonder het te vragen.
Belangrijke Regel: De leerling kan het profiel op elk moment lezen, aanpassen of verwijderen. De AI mag niet beslissen wat "waar" is over de leerling; de leerling krijgt de ruimte om mee te beslissen.
De Grote Catch: Wie Houdt de Pen Vast?
Dit is het meest cruciale deel van het artikel. De auteur waarschuwt dat zelfs een "vriendelijk" systeem gevaarlijk kan zijn als de machtsbalans verkeerd is.
De Analogie: De Rechter en de Verdachte
Op dit moment is de school zowel de Rechter (die je beoordeelt) als de Verdachte (die jouw gegevens beheert). Als een leerling probeert het profiel aan te passen om te zeggen: "Ik leer beter op deze manier," maar het automatische systeem van de school negeert dit en laat de leerling toch zakken, dan heeft de leerling geen macht.
Het artikel stelt dat voor dit systeem ethisch te laten werken, de rol van de "Ontwerper" (degene die bepaalt wat de AI over jou gelooft) gedeeld moet worden. Het kan niet alleen het AI-bedrijf zijn, en het kan niet alleen de school zijn. Het moet een partnerschap zijn tussen de Docent, de Leerling en het Systeem.
Het "Solaria"-risico
Het artikel introduceert een eng concept genaamd het Solaria-risico.
- De Analogie: Stel je een futuristische wereld voor waar iedereen alleen woont in een perfect huis. Een robotbediende weet precies wat je leuk vindt, geeft je precies wat je wilt en stoort je nooit. Het is perfect voor jou, maar je praat nooit met iemand anders. Je verliest het vermogen om in een team te werken of omgaan met conflicten.
- De Waarschuwing: Als AI zich te perfect aanpast aan elke persoonlijkheid, kunnen leerlingen misschien niet meer de behoefte voelen om naar een klaslokaal te gaan. Ze leren alles alleen met hun robot. Het artikel waarschuwt dat hoewel dit helpt voor het individu, het het "collectieve" deel van onderwijs vernietigt (samen leren).
Het Ontbrekende Puzzelstukje: Wie is de Ontwerper?
Het artikel concludeert dat er op dit moment niemand de ontwerper ontwerpt.
- De AI-bedrijven bouwen de hulpmiddelen.
- De scholen gebruiken ze.
- De leerlingen zitten er middenin vast.
De auteur zegt dat we een nieuw niveau van bestuur nodig hebben (specifiek op het niveau van de Europese Unie) om de regels te bouwen. Net zoals we wetten hebben voor gezondheidsgegevens, hebben we wetten nodig voor "gedragsgegevens" op scholen. We moeten ervoor zorgen dat:
- Leerlingen eigenaar zijn van hun gegevens en deze met zich mee kunnen nemen.
- De AI geen psychologische oordelen trekt (zoals "deze leerling is depressief") zonder een menselijke expert.
- We testen of dit systeem leerlingen daadwerkelijk beter helpt leren dan simpelweg betere tekstboeken geven.
Samenvatting
Het artikel vraagt: Wie bepaalt wat de AI als waarheid over een leerling beschouwt?
Momenteel raadt de AI dit in het geheim. Het artikel stelt een systeem voor waarbij de leerling en de docent die waarheid co-autorschappen, met strikte regels om te voorkomen dat de AI spioneert of leerlingen isoleert. Maar om dit veilig te maken, hebben we nieuwe wetten en een nieuw soort "meta-geletterdheid" (leerlingen leren hoe ze hun eigen AI-profielen beheren) nodig voordat we dit uitrollen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.