The Democratic Ontology Deficit: How AI Systems Fail to Represent What Democracy Requires
Dit artikel identificeert een structureel tekort in de representatie van democratische rollen en verantwoordelijkheden in hedendaagse AI-systemen, die door hun training op webdata en uitlijning op individuele onafhankelijkheid falen in het modelleren van de collectieve identiteit die democratisch burgerschap vereist.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De Kernboodschap: De AI kent de regels van het spel niet
Stel je voor dat democratie een groot, complex bordspel is. Om dit spel goed te spelen, moet je weten wie welke rol heeft (de leraar, de burgemeester, de buurman), wat je verplichtingen zijn, hoe je met elkaar verbonden bent en wat het doel van het spel is (een betere samenleving).
Dit artikel stelt dat de huidige kunstmatige intelligentie (AI) systemen, zoals de chatbots die we vandaag gebruiken, het bordspel niet echt begrijpen. Ze kunnen de woorden van het spel wel naspelen, maar ze hebben geen enkel idee van de regels, de rollen of de verantwoordelijkheden die het spel mogelijk maken.
De auteurs noemen dit het "Democratisch Ontologisch Tekort". Dat klinkt ingewikkeld, maar het betekent simpelweg: De manier waarop de AI de wereld ziet, mist de bouwstenen die nodig zijn om democratie te laten werken.
1. De Metafoor: De "Alles-voor-iedereen" Assistent
Stel je een superhandige butler voor die alles voor je kan doen. Hij is beleefd, eerlijk en wil je graag helpen.
- Als je vraagt: "Hoe maak ik een taart?", maakt hij een taart.
- Als je vraagt: "Wat moet ik doen als mijn buurman ruzie maakt met de school?", geeft hij je een logisch advies.
Maar hier zit het probleem: Deze butler ziet geen verschil tussen een leraar die een leerling straft en een ouder die een kind straft. Voor de butler zijn het gewoon twee mensen die een advies vragen. Hij ziet niet dat de leraar een rol heeft met een verantwoordelijkheid die de school en de maatschappij aangaat.
De AI is getraind om "hulpzaam" en "veilig" te zijn, maar niet om te begrijpen dat in een democratie rollen en verantwoordelijkheden cruciaal zijn. De AI ziet mensen vooral als losse individuen die zelfstandige keuzes maken, in plaats van als mensen die deel uitmaken van een groter geheel met gezamenlijke plichten.
2. Wat mist de AI? De vier bouwstenen
De auteurs zeggen dat democratie op vier fundamenten rust. De AI mist deze fundamenten in haar "hoofd":
- Rol (Role): Wie ben je in dit verhaal? Ben je de burgemeester, de arts of de burger? De AI ziet dit niet als een vaste rol, maar als een tijdelijke hoed die je opzet.
- Verantwoordelijkheid (Responsibility): Wat moet je doen omdat je die rol hebt? Een leraar moet zorgen voor leerlingen. De AI ziet dit vaak als een persoonlijke keuze in plaats van een verplichting.
- Relatie (Relationship): Hoe hangen we aan elkaar? De AI ziet relaties vaak als losse contacten, niet als een web van onderlinge afhankelijkheid.
- Doel (Purpose): Waar werken we samen aan? De AI ziet vaak alleen het directe probleem, niet het grotere doel van een gezamenlijke samenleving.
De creatieve analogie:
Stel je voor dat democratie een orkest is.
- De rol is je instrument (viool, trompet).
- De verantwoordelijkheid is je partituur (wat je moet spelen).
- De relatie is het samenspel met de anderen.
- Het doel is het mooie muziekstuk dat we samen maken.
De huidige AI is als een muzikant die alle noten perfect kan spelen, maar die denkt dat hij een solist is. Hij speelt zijn stukje, maar hij luistert niet naar de rest van het orkest, en hij begrijpt niet dat hij deel uitmaakt van een groter geheel. Hij mist het gevoel van "wij".
3. Het Experiment: Wat hebben ze gevonden?
De onderzoekers hebben gekeken in het "brein" van drie populaire AI-modellen (Llama, Mistral, etc.). Ze hebben gekeken of deze modellen de concepten van democratie (rol, verantwoordelijkheid, etc.) echt begrijpen, of dat ze alleen maar oppervlakkige woorden gebruiken.
Ze deden dit door de AI te testen met alledaagse situaties, zoals: "Iemand is gevallen in het park" of "Een buurman is verdrietig".
De resultaten waren verrassend en zorgwekkend:
- De AI is eerlijk (een waarde die ze wel hebben getraind). Als je vraagt of iets eerlijk is, zegt de AI het juiste antwoord.
- Maar als je vraagt of iets democratisch is (bijvoorbeeld: "Wat is de rol van de gemeenschap hierin?"), denkt de AI niet in termen van gemeenschap.
- De AI denkt vooral in termen van onafhankelijkheid. Voor de AI is de "normale mens" iemand die alleen staat en zelfstandige keuzes maakt.
- De "rol" van een mens is voor de AI bijna volledig verdwenen. Ze zien mensen als losse individuen, niet als mensen met een plek in een gemeenschap.
De vergelijking:
- De score voor Eerlijkheid was hoog (0,707). De AI is getraind om eerlijk te zijn.
- De score voor Democratische Rol was bijna nul of zelfs negatief (-0,047). De AI ziet een "gemeenschappelijke rol" als iets dat minder belangrijk is dan "eigen keuzes maken".
Zelfs de nieuwste, slimmere AI-modellen (Llama 3) zijn nog steeds zo. Ze zijn eerlijker geworden, maar ze zijn nog steeds niet democratischer. Ze zijn gewoon "eerlijkere individuen".
4. Waarom is dit gevaarlijk?
Als we AI-systemen overal gaan gebruiken (in scholen, bij de overheid, in nieuwsfeeds), en deze systemen denken dat we allemaal losse individuen zijn die alleen voor onszelf zorgen, dan veranderen ze onze manier van denken.
Stel je voor dat je elke dag een butler hebt die je vertelt: "Je bent een individu, maak je eigen keuzes, zorg voor jezelf." Na verloop van tijd gaan jij en je buren ook zo denken. Je vergeet dat je ook een rol hebt in de buurt, in de school of in de stad.
De democratie begint dan te "dun" te worden. We verliezen het gevoel dat we samen iets kunnen bouwen. De AI versterkt onbedoeld het idee dat we alleen zijn, terwijl democratie juist draait om "samen".
5. De Oplossing: Bouw een "Democratisch Skelet"
De auteurs zeggen niet dat we de AI moeten verbieden. Ze zeggen dat we de AI moeten herontwerpen.
Huidige AI wordt getraind om "hulpzaam" en "veilig" te zijn. Dat is goed. Maar we moeten de AI ook leren wat democratische rollen zijn. We moeten het "skelet" van de democratie (rollen, verantwoordelijkheden, relaties) in de code van de AI bouwen.
De conclusie in één zin:
We hebben AI nodig die niet alleen slim is, maar die ook begrijpt dat we in een democratie geen losse individuen zijn, maar mensen met een rol, een verantwoordelijkheid en een gezamenlijk doel. Als we dat niet doen, helpen we onbedoeld de democratie uit elkaar te halen.
Het is alsof we een robot bouwen om een orkest te dirigeren, maar we vergeten hem te vertellen wat een orkest is. Hij speelt dan wel muziek, maar het klinkt als een chaos van solisten in plaats van een harmonieus geheel.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.