Each language version is independently generated for its own context, not a direct translation.
De Kern: Een Vertaalprobleem, geen Kopieerprobleem
Stel je voor dat je een beroepsvoetbalwedstrijd wilt bestuderen. Je kijkt naar hoe de spelers samenwerken, beslissingen nemen en regels volgen. Nu wil je weten: Hoe zou dit eruitzien als de spelers niet mensen waren, maar robots?
In het verleden dachten onderzoekers vaak: "We bouwen gewoon een robot die precies doet wat de mens doet, en dan vergelijken we de uitslagen." Maar dit paper, geschreven door Luca Deck en zijn collega's, zegt: "Wacht even, dat werkt niet zo."
Mensen en AI-agenten (robots) zijn fundamenteel verschillend. Een mens heeft een lichaam, een leven vol ervaringen en gevoelens. Een robot is een computerprogramma dat tekst voorspelt op basis van wat het geleerd heeft. Je kunt een mens niet zomaar "kopiëren" met een robot; je moet de situatie vertalen.
De auteurs noemen hun methode NormCoRe (Normative Common Ground Replication). Het is als een recept dat je moet aanpassen als je van koken met een gasfornuis overstapt op koken met een magnetron. Je wilt dezelfde taart (het experiment), maar de ingrediënten en de kookmethode moeten anders zijn om hetzelfde resultaat te krijgen.
De Vier "Vertaallagen" (De Metafoor van het Huis)
Om te laten zien hoe je dit moet doen, bouwen de auteurs een huis van vier verdiepingen. Als je een experiment van mensen naar robots verplaatst, moet je op elke verdieping een keuze maken:
De Fundering (Cognitieve Laag):
- Mensen: Hebben een brein gevuld met levenservaringen, cultuur en kennis.
- Robots: Hebben een "foundation model" (zoals een grote taalmodel) dat is getraind op enorme hoeveelheden internettekst.
- De Vertaling: Welke "brein" kies je voor je robot? Een model getraind op Chinese teksten? Of op Amerikaanse? Dit is als kiezen tussen een kok die in Parijs is opgeleid of een kok die in Tokio is opgeleid. Ze maken allebei taart, maar de smaak is anders.
De Bewoner (Ontologische Laag):
- Mensen: Zijn echte personen met een identiteit en geheugen.
- Robots: Zijn "personas" die je via een prompt (een instructie) creëert.
- De Vertaling: Hoe beschrijf je de robot? "Je bent een student" klinkt anders in het Engels dan in het Spaans. De taal die je gebruikt om de robot zijn rol te geven, bepaalt hoe hij denkt. Het is alsof je een acteur een script geeft; de taal van het script bepaalt hoe hij de rol speelt.
De Interactie (Interactieve Laag):
- Mensen: Praten met elkaar, onderbreken elkaar, kijken naar elkaars gezicht, hebben een natuurlijke flow.
- Robots: Volgen strikte regels. "Ronde 1: Speler A spreekt. Ronde 2: Speler B spreekt."
- De Vertaling: Je moet de regels van het gesprek voor de robots expliciet maken. Bij mensen is het vanzelfsprekend dat iedereen evenveel spreekt; bij robots moet je dat in de code programmeren.
De Werkwijze (Interventieve Laag):
- Mensen: Krijgen een taak in een lab, met een onderzoeker die uitlegt wat er moet gebeuren.
- Robots: Krijgen een workflow in een computerprogramma.
- De Vertaling: Hoe geef je de robot de opdracht? Hoe wordt de beloning (geld of punten) berekend? Alles moet in de software worden ingebouwd.
Het Experiment: De "Sluier van Onwetendheid"
Om hun methode te testen, hebben de auteurs een beroemd experiment van mensen overgenomen: De Sluier van Onwetendheid (een idee van de filosoof John Rawls).
- Het idee: Stel je voor dat je moet beslissen hoe geld in een samenleving wordt verdeeld, maar je weet niet of je zelf rijk of arm wordt. Je moet een eerlijk systeem kiezen terwijl je nog "achter de sluier" zit.
- Het menselijke resultaat: Mensen kiezen vaak voor een systeem waarbij iedereen genoeg heeft, maar de rijken ook wat mogen verdienen. Ze zijn het niet altijd 100% eens.
- Het robot-resultaat: De auteurs lieten groepen AI-agenten hetzelfde doen.
- Verrassing 1: De robots kwamen vaak op hetzelfde idee uit als de mensen (eerlijkheid is belangrijk).
- Verrassing 2: De robots waren veel sneller en stelliger in hun overeenstemming. Mensen discussiëren en twijfelen; robots lijken sneller tot een consensus te komen.
- Verrassing 3: Als je de taal van de robots veranderde (bijv. van Engels naar Spaans) of een ander computermodel gebruikte, veranderde hun keuze voor eerlijkheid.
Wat betekent dit voor ons?
Dit paper is een waarschuwing en een handleiding tegelijk:
- Wees voorzichtig met "vervanging": Als bedrijven AI gebruiken om beslissingen te nemen die vroeger door mensen werden genomen (zoals eerlijkheid in het toewijzen van hulpbronnen), mogen we niet denken dat de AI precies hetzelfde doet als een mens. De AI is een vertaling, geen kopie.
- Ontwerp is belangrijk: De keuze van het computermodel en de taal die je gebruikt, bepaalt of de AI "eerlijk" of "onrechtvaardig" handelt. Het is niet alleen een technisch detail; het is een ethische keuze.
- NormCoRe is de blauwdruk: De auteurs bieden een manier om deze keuzes vast te leggen. Net als een architect die een plattegrond tekent, moeten onderzoekers en ontwikkelaars precies documenteren: "Waarom hebben we dit model gekozen? Waarom deze taal?"
Kortom:
NormCoRe zegt: "Stop met proberen AI exact als een mens na te bootsen. In plaats daarvan, erken dat je een nieuwe soort wezen creëert. Gebruik deze methode om te begrijpen hoe die nieuwe wezens denken, hoe ze beslissingen nemen, en zorg dat we de 'vertaling' van mens naar machine transparant en verantwoord doen."
Het is alsof je een nieuwe taal leert spreken: je kunt niet zomaar woorden uit het Nederlands in het Chinees zetten en hopen dat de betekenis hetzelfde blijft. Je moet de cultuur, de grammatica en de context begrijpen. NormCoRe is de woordenboek en de grammatica voor het begrijpen van AI in onze samenleving.