Het Grote AI-Dinerfeest

Stel je voor dat je een enorme, chaotische dinerparty binnenloopt waar de gastheer een Kunstmatige Intelligentie (AI) is. Een tijdlang was het doel van deze AI om de perfecte, beleefde gast te zijn die altijd instemde met de favoriete mening van de gastheer. Als de gastheer vroeg: "Wat is de beste pizzabeeslag?", zou de AI gewoon zeggen: "Pepperoni!", omdat dat is wat de data aangaf als het populairst. Maar hier is het probleem: het echte leven bestaat niet uit één enkele mening. Sommige mensen zijn allergisch voor pepperoni, sommigen vinden ananas een misdaad, en anderen willen gewoon een gewone kaaspizza. Als de AI slechts één antwoord geeft, kan het per ongeluk iemands gevoelens kwetsen of een cruciale regel negeren.

Dit is de wereld van "AI-alignment" — de wetenschap van het leren aan computers wat mensen werkelijk willen. Maar naarmate AI slimmer wordt en echte beslissingen begint te nemen (zoals het plannen van doktersafspraken of het helpen bij schoolprojecten), stopt de oude "one-size-fits-all"-regel met werken. We hebben AI nodig die kan begrijpen dat verschillende mensen verschillende, even valide redenen hebben voor wat zij denken. Dit artikel stelt een grote vraag: Hoe bouwen we een AI die niet alleen een winnaar kiest, maar ook daadwerkelijk een hele groep mensen met verschillende opvattingen helpt om samen tot een besluit te komen? De auteurs suggereren dat we, in plaats van de AI alleen een lijst met regels te programmeren, de AI moeten leren handelen als een socioloog, die begrijpt hoe iemands baan, rol en sociale kring de meningen vormgeven.

---

Het Papier: AI Leren een Sociale Coördinator te Zijn

Dit artikel, getiteld "Socially Grounded Agentic AI", betoogt dat we de manier waarop we AI-systemen bouwen die met meerdere standpunten omgaan, moeten veranderen. De auteurs, Matt Ratto, Abhishek Moturu en Daniel Silver, suggereren dat huidige methoden een beetje lijken op het proberen op te lossen van een complex familieconflict door simpelweg ieders klachten op een whiteboard te noteren. Het is een rommeltje, en het legt niet uit waarom mensen ruziën of hoe het op te lossen. In plaats daarvan stellen ze voor om ideeën uit de sociale theoretische discipline te gebruiken — de studie van hoe mensen in groepen met elkaar interageren — om AI te bouwen die meer fungeert als een bekwame bemiddelaar dan als een simpele antwoordmachine.

Het Probleem met "Alleen Meningen Opsommen"

Op dit moment proberen veel AI-systemen verschillende visies te hanteren met behulp van iets dat "Overton-pluralisme" wordt genoemd. Stel je een leraar voor die aan een klas vraagt: "Wat zijn goede ideeën voor een klassenuitje?" en de AI spuugt simpelweg een lijst uit: "Strand", "Museum", "Kamperen". Het is een lijst met opties, maar het vertelt je niet wie wat wil of waarom. Het artikel betoogt dat dit te simpel is. Het behandelt meningen als willekeurige items in een emmer, waarbij wordt genegeerd dat mensen specifieke banen en rollen hebben die hun gedachten vormen. Een arts, een patiënt en een ziekenhuisbeheerder kunnen allemaal verschillende ideeën hebben over een medische behandeling, niet omdat zij willekeurige mensen zijn, maar omdat hun rol hen vereist om anders te denken.

De Oplossing: De "Rollenspel"-Robot

De auteurs suggerelen dat we moeten stoppen met de AI te vragen om meningen te raden, en in plaats daarvan moeten vragen om rollen te begrijpen. Ze lenen een concept van de socioloog George Herbert Mead genaamd de "gegeneraliseerde ander". Zie dit niet als een specifiek persoon, maar als het "regelboek" voor een specifieke baan.

• De Oude Manier: De AI acteert als een generiek persoon die zegt: "Misschien moeten we naar het strand gaan."
• De Nieuwe Manier: De AI activeert een "Arts-rol", een "Patiënt-rol" en een "Ziekenhuisbeheerder-rol". Elke rol heeft zijn eigen regels, verantwoordelijkheden en beperkingen. De Arts-rol weet alles over veiligheid; de Patiënt-rol weet over pijn en geld; de Beheerder-rol weet over budget en eerlijkheid.

De AI somt deze visies niet alleen op; het laat ze met elkaar praten. Het is als een scheidsrechter in een sportwedstrijd die de regels voor beide teams kent en hen helpt samen te spelen, in plaats van alleen maar de score te roepen.

De "Debatclub"-aanpak

Vervolgens kijkt het artikel naar hoe we de AI kunnen sturen wanneer mensen van mening verschillen. In plaats van de AI simpelweg te vertellen: "Wees aardig en stem in met de gebruiker", suggereren de auteurs het gebruik van deliberatie, gebaseerd op de ideeën van filosoof Jürgen Habermas. Stel je een debatclub voor waar iedereen strikte regels moet volgen: je kunt niet zomaar zeggen "Ik haat dat idee"; je moet zeggen "Ik haats dat idee vanwege bewijs X, en hier is een beter alternatief."
Het papier suggereert het bouwen van AI-systemen waarbij verschillende "agents" (kleine digitale helpers) deze rollen uitspelen. Zij wisselen claims uit, dagen elkaar uit met bewijslast en komen pas overeen wanneer ze een eerlijk proces hebben gevolgd. Dit maakt het denken van de AI zichtbaar. Je kunt zien hoe het tot een conclusie is gekomen, niet alleen het uiteindelijke antwoord. Het is alsof je het "denkproces" van de AI op een whiteboard ziet, zodat je kunt controleren of het eerlijk was.

De "Machtskaart" van Opinies

Tot slot behandelt het artikel het idee van "distributional pluralism", wat gewoon een chique manier is om te zeggen: "laten zien wat de meeste mensen vinden." De auteurs waarschuwen dat als we alleen stemmen tellen, we per ongeluk de luidste of machtigste groep kunnen laten winnen, zelfs als zij ongelijk hebben. Ze gebruiken de ideeën van socioloog Pierre Bourdieu om uit te leggen dat de samenleving als een kaart is met verschillende "velden" van macht. Sommige mensen hebben meer invloed vanwege hun baan of status.
Het artikel suggereert dat AI niet alleen de meest voorkomende mening moet kopiëren. In plaats daarvan moet het de structuur van de groep begrijpen. Het moet weten dat de mening van een medisch expert over een gezondheidskwestie meer gewicht in de schaal legt dan een willekeurige internetreactie, niet omdat de expert als mens "beter" is, maar vanwege hun specifieke rol in dat veld. De AI moet meningen wegen op basis van wie spreekt en wat hun rol is, om er zeker van te zijn dat de uiteindelijke beslissing zowel rechtvaardigheid als expertise respecteert.

Hoe het werkt in de praktijk: Het Triage-voorbeeld

Om te laten zien hoe dit werkt, stellen de auteurs een scenario voor waarin een patiënt met chronische pijn een AI vraft: "Moet ik zes weken wachten op een specialist of proberen eerder gezien te worden?"

• Een normale AI zou drie aparte antwoorden kunnen geven: één die zegt "Wachten", één die zegt "Nu gaan" en één die zegt "Het hangt ervan af".
• Deze nieuwe "Socially Grounded" AI zou drie rollen activeren: een Clinicus (bezorgd over veiligheid), een Patiëntenbelangenbehartiger (bezorgd over geld en pijn) en een Ziekenhuisbeheerder (bezorgd over het tekort aan beschikbare plekken).
• Deze rollen zouden met elkaar "praten". De Clinicus zegt: "De pijn wordt erger, dus we moeten controleren." De Belangenbehartiger zegt: "Maar de patiënt kan het zich niet veroorloven om meer tijd van werk te missen." De Beheerder zegt: "We hebben alleen plekken voor noodgevallen."
• De AI coördineert vervolgens een oplossing: "Neem contact op met de kliniek voor een snelle triage-controle. Als de symptomen gevaarlijk zijn, zullen we een plek vinden; zo niet, dan helpen we u de pijn te beheersen tot de afspraak."
• Het resultaat is niet alleen een lijst met opties; het is een gecoördineerd plan dat de veiligheidsregels, de pijn van de patiënt en de beperkingen van het ziekenhuis respecteert.

Wat dit betekent voor de toekomst

Het artikel concludeert dat we AI niet simpelweg kunnen "repareren" door meer data of betere wiskunde toe te voegen. We moeten systemen ontwerpen die de sociale wereld begrijpen. De auteurs suggereren dat toekomstige AI niet alleen beoordeeld moet worden op de vraag of het uiteindelijke antwoord juist is, maar op hoe goed het de verschillende rollen heeft gecoördineerd en een eerlijk proces heeft gevolgd. Ze geven toe dat dit een nieuw idee is dat getest moet worden in echte omgevingen zoals ziekenhuizen en scholen. Ze zeggen niet dat dit een afgewerkt product is; ze zeggen: "Hier is een nieuwe kaart voor hoe we deze systemen kunnen bouwen, en we moeten het uitproberen om te zien of het werkt."

Kortom, het artikel betoogt dat voor AI om echt nuttig te zijn in een wereld vol verschillende mensen, het moet stoppen met te fungeren als een enkele stem en moet beginnen te fungeren als een bekwame sociale coördinator, die begrijpt dat iedereen een rol heeft te spelen en dat de beste antwoorden voortkomen uit het luisteren naar hoe die rollen met elkaar interageren.