How should AI knowledge be governed? Epistemic authority, structural transparency, and the case for open cognitive graphs
Dit paper pleit voor een structurele aanpak van het bestuur van educatieve AI door deze te reconceptualiseren als publieke cognitieve infrastructuur, waarbij het gebruik van Open Cognitive Graphs en een 'stam-tak'-bestuursmodel epistemische autoriteit transparant en democratisch verantwoord maakt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een nieuwe, super-snelle leraar hebt die 24 uur per dag beschikbaar is. Hij kan je vragen beantwoorden, je huiswerk controleren en je vertellen wat je als volgende moet leren. Dit is kunstmatige intelligentie (AI) in het onderwijs.
Maar er is een groot probleem: deze "leraar" is een geheime doos. We weten niet precies hoe hij tot zijn antwoorden komt. Als hij een fout maakt, kunnen we hem niet makkelijk corrigeren, en we weten niet wie er verantwoordelijk is. Het is alsof je een auto rijdt die zelf stuurt, maar de bestuurder zit in een andere stad en je mag de motor niet openmaken om te kijken of het veilig is.
De auteurs van dit artikel, Chao Li en Chunyi Zhao, zeggen: "Dit kan niet zo doorgaan." Als AI ons leert, moet het ook kunnen worden gecontroleerd, net als een echte leraar.
Hier is hun oplossing, vertaald in een simpel verhaal met een paar creatieve metaforen:
1. Het probleem: De "Zwarte Doos" Leraar
Normaal gesproken hebben leraren een diploma, worden ze gecontroleerd door hun school en kunnen leerlingen bezwaar maken als ze het oneens zijn met een cijfer. AI heeft dit niet. Het leert uit enorme hoeveelheden data, maar niemand weet precies welke regels het heeft onthouden. Als AI zegt: "Je begrijpt dit niet goed," dan is dat het woord van de machine. Er is geen menselijke leraar die kan zeggen: "Wacht even, laten we kijken waarom hij dat denkt."
2. De oplossing: De "Open Bouwtekening" (Open Cognitive Graph)
De auteurs stellen voor om AI niet te zien als een magische doos, maar als publieke infrastructuur, net als een brug of een elektriciteitsnet.
Stel je voor dat de kennis die AI gebruikt, niet verstopt zit in duizenden onbegrijpelijke getallen, maar wordt weergegeven als een grote, open bouwkundige tekening (de Open Cognitive Graph).
- In deze tekening zie je precies hoe concepten met elkaar verbonden zijn (bijvoorbeeld: "Je moet eerst optellen kunnen voordat je kunt vermenigvuldigen").
- Je ziet waar de valkuilen zitten (bijvoorbeeld: "Leerlingen denken vaak dat zwaartekracht alleen naar beneden werkt").
- Het belangrijkste: Iedereen kan deze tekening inzien, erop wijzen en zeggen: "Hé, deze verbinding klopt niet, laten we hem aanpassen."
3. Het Bestuursmodel: De "Stam en Takken"
Hoe regelen we dat iedereen mee kan praten zonder dat het een chaos wordt? Ze gebruiken een mooi beeld: De Stam en de Takken.
- De Stam (Trunk): Dit is de basis van de kennis die iedereen het eens is. Bijvoorbeeld: "2 + 2 = 4" of "Water kookt bij 100 graden." Dit is de stabiele kern. Niemand mag hier zomaar aan sleutelen; dit vereist een grote consensus van experts.
- De Takken (Branches): Dit zijn de variaties. Misschien leren kinderen in Nederland de geschiedenis anders dan in Brazilië, of gebruiken sommige scholen een andere manier om wiskunde uit te leggen. Deze "takken" mogen afwijken van de stam, zolang ze maar niet de basisregels breken.
Dit zorgt voor een perfecte balans: we hebben een veilige basis (de stam), maar we zijn flexibel genoeg voor verschillende manieren van leren (de takken).
4. Hoe werkt het in de praktijk? (Het Verhaal van de Energie)
Stel je voor dat de AI-leraar leerlingen vertelt dat "energie" iets is dat een voorwerp bezit. Maar echte leraren zien dat leerlingen hierdoor in de war raken over hoe energie werkt in een heel systeem.
In het oude systeem zou de AI blijven zeggen wat hij zegt, en zouden leerlingen het maar moeten weten.
In dit nieuwe systeem:
- Een groep leraren (de "tak-beheerders") zegt: "Dit klopt niet, we missen een tussenstap."
- Ze passen de Open Bouwtekening aan door een nieuwe stap toe te voegen: "Energie-overdracht".
- Experts controleren of dit logisch is.
- Als het goed is, wordt deze verbetering naar de "Stam" gestuurd.
- Resultaat: Plotseling begrijpen alle leerlingen over de hele wereld, via elke AI-app die dit gebruikt, het concept van energie veel beter.
Waarom is dit belangrijk voor jou?
- Eerlijkheid: Het zorgt ervoor dat AI niet alleen de kennis van rijke scholen of grote bedrijven weergeeft, maar dat leraren en gemeenschappen zelf kunnen bepalen wat er geleerd wordt.
- Verantwoordelijkheid: Als er een fout is, weten we precies waar hij zit in de "tekening" en kunnen we hem fixen. We hoeven niet te wachten tot een tech-bedrijf in Californië een nieuwe versie uitbrengt.
- Toekomst: Het maakt AI tot een publiek goed, net als een bibliotheek of een park, in plaats van een geheim product dat alleen door één bedrijf wordt beheerd.
Kortom: De auteurs willen dat we stoppen met AI te behandelen als een magisch gereedschap dat we maar moeten vertrouwen. In plaats daarvan willen ze dat we het bouwen als een gemeenschappelijk project, waar we allemaal mee kunnen helpen om de "bouwkundige tekening" van onze kennis correct, eerlijk en veilig te houden.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.