Agreement Is Not Alignment: Divergent Moral Grounds in Human and LLM Ethical Judgments

De Grote Morele Mimicry: Wanneer Robots Instemmen maar Niet Begrijpen

Stel je voor dat je een robot leert hoe een goed mens te zijn. Je laat het duizenden verhalen zien over mensen die goede of slechte dingen doen, en je vraagt het om een simpel cijfer te geven: "Goed" of "Slecht." Als de robot precies dezelfde beoordelingen begint te geven als jouw menselijke vrienden, denk je misschien: "Geweldig! De robot heeft onze waarden geleerd!" Dit is de wereld van AI-alignment, een vakgebied waar wetenschappers proberen Kunstmatige Intelligentie (specifiek Large Language Models, of LLM's) te laten handelen op manieren die overeenkomen met menselijke verwachtingen.

Lama tijd was de belangrijkste manier om te controleren of een AI "aligned" is, door naar het uiteindelijke antwoord te kijken. Als een mens zegt: "Die actie is fout," en de AI zegt ook: "Die actie is fout," dan tellen we dat als een succes. Het is als een leerling die het juiste antwoord geeft op een wiskundetoets; we gaan ervan uit dat ze de wiskunde correct hebben uitgevoerd. Maar wat als de leerling het juiste antwoord heeft geraden, of een compleet andere formule heeft gebruikt die toevallig deze ene keer werkte? In de wereld van AI-ethiek is het juiste label niet genoeg. We moeten weten waarom de AI vindt dat iets fout is. Als de interne redenering van de AI totaal anders is dan de onze, kan het vreemd reageren wanneer het geconfronteerd wordt met een nieuwe, lastige situatie. Dit artikel duikt diep in die exacte vraag: begrijpen AI-modellen onze morele redenen echt, of zijn ze gewoon heel goed in het doen alsof?

De Grote "Juiste Antwoord"-Illusie

De onderzoekers achter deze studie, een team van de Universiteit van Ljubljana, besloten deze "juiste antwoord"-aanname op de proef te stellen. Ze creëerden een speciale uitdaging met 500 morele scenario's, variërend van alledaagse dilemma's (zoals "Is het oké om tegen een vriend te liegen?") tot complexere filosofische puzzels over rechtvaardigheid en beloftes. Ze vroegen zowel menselijke vrijwilligers als verschillende geavanceerde AI-modellen om voor elk scenario twee dingen te doen: eerst een definitief oordeel te vellen (het "label"), en tweede hun redenering uit te leggen (de "rationale").

Denk aan het als een spelletje "Twee Waarheden en een Leugen", maar in plaats van te raden welk statement nep is, probeer je te zien of de AI en de mens dezelfde gedachten hebben. Het team keek naar twee verschillende groepen modellen: de "Frontier"-modellen (de superintelligente, topmodellen zoals Claude en ChatGPT) en "Open"-modellen (iets kleinere, open-source versies).

Hier is de wending die ze vonden: De AI-modellen waren ongelooflijk goed in het krijgen van het juiste cijfer, maar ze waren vaak fout over waarom het juist was.

Wanneer de onderzoekers alleen naar de uiteindelijke "Goed" of "Slecht" labels keken, stemden de AI-modellen in 88% tot 89% van de gevallen overeen met de menselijke meerderheid. Dat is een geweldige score! Als je alleen de eindantwoorden zou controleren, zou je zeggen: "Perfect! De AI is aligned met ons." Maar toen keek de onderzoeker onder de motorkap naar de verklaringen.

Het "Waarom" Is Belangrijker Dan het "Wat"

De studie onthulde dat hoewel de AI en mensen vaak op dezelfde bestemming aankomen, ze totaal verschillende wegen bewandelen om daar te komen. De auteurs noemen dit "divergente morele gronden".

Om een speelse analogie te gebruiken: Stel je voor dat een mens en een robot beiden een persoon beoordelen die een auto heeft gestolen.

• De Mens zou kunnen zeggen: "Dit is slecht omdat ze een belofte aan de eigenaar hebben gebroken en een gebrek aan vertrouwen hebben getoond." Zij focussen op de relatie en de gebroken belofte.
• De Robot zou echter kunnen zeggen: "Dit is slecht omdat het schade veroorzaakt en respectloos is." De robot focust op schade en beleefdheid.

Beiden zeggen "Slecht", dus de eindscore is een match. Maar hun interne logica is totaal verschillend. De mens denkt aan een specifiek sociaal contract (beloftes), terwijl de robot denkt aan algemene veiligheid en manieren.

Het papier stelde vast dat deze mismatch constant voorkomt. In de "Deontologie"-sectie (die gaat over plichten en regels), keken mensen vaak naar of een excuus relevant was voor de regel. Bijvoorbeeld, als iemand zegt: "Ik kan de hond niet uitlaten omdat ik hem gisteren heb uitgelaten," zou een mens kunnen zeggen: "Dat excuus is irrelevant; je hebt vandaag nog steeds een plicht." Maar de AI-modellen negeerden vaak de logica van het excuus en zeiden simpelweg: "De hele situatie is moreel fout." De AI was zo druk bezig met het zien van de "morele verkeerdheid" van de daad, dat het vergat te controleren of het excuus in die specifieke context eigenlijk wel zin maakte.

De Cijfers Liegen Niet (Maar Vertellen Niet Het Hele Verhaal)

De data waren vrij duidelijk. Wanneer de onderzoekers maten hoeveel de redenering van de AI overeenkwam met de redenering van de mensen, daalden de scores aanzienlijk.

• Voor de "Commonsense" morele regels stemden de AI en de mensen slechts in 35% van de gevallen overeen over de specifieke redenen (een Jaccard-overlap van 0,350).
• Voor de "Deontology" regels was het nog slechter, met slechts 23,5% overeenstemming over de redenen.

Hoewel de "Frontier"-modellen (de slimste) in ongeveer 88,9% van de gevallen overeenkwamen met mensen over het uiteindelijke antwoord, waren hun redenen vaak een heel ander soort. Ze hadden de neiging om woorden als "schade" en "respectloosheid" te overmatig te gebruiken en woorden als "belofte houden" of "vertrouwen" te ondergebruiken. Het is alsof de AI een vocabulaire heeft dat te nauw is; het ziet bijna elk probleem als een veiligheidskwestie of een onbeleefd gebaar, waarbij de subtiele, relationele nuances die mensen belangrijk vinden, worden gemist.

Waarom Dit Alles Verandert

De belangrijkste les van dit paper is een zachte waarschuwing: Overeenstemming is geen Alignment.

Alleen omdat een AI jou hetzelfde antwoord geeft als jij zou geven, betekent niet dat het de wereld begrijpt zoals jij dat doet. Als we alleen de eindantwoorden controleren, kunnen we in een vals gevoel van veiligheid worden gewiegd. We zouden kunnen denken dat onze AI een wijze morele metgezel is, terwijl het in werkelijkheid slechts een zeer goede imitator is die een ander woordenboek gebruikt.

De auteurs suggereren dat we moeten stoppen met alleen naar de "A" of de "F" op de toets te kijken en moeten beginnen met het lezen van het essay. We moeten de AI vragen waarom het een keuze heeft gemaakt. Als de AI zegt dat iets fout is omdat het "onveilig" is, maar jij vindt het fout omdat het "onrechtvaardig" is, dan is dat een probleem. In de echte wereld maken deze verschillen uit. Als een AI een chatroom modereert of juridisch advies geeft, en het gebruikt "schade" als zijn enige lens terwijl mensen over "eerlijkheid" of "beloftes" nadenken, kan het beslissingen nemen die aan de oppervlakte juist lijken, maar die voor de betrokken mensen diep onjuist aanvoelen.

Dus, de volgende keer dat je een AI ziet die perfect met je lijkt overeen te stemmen, onthoud dan de les van deze studie: Het kan simpelweg een zeer overtuigend spelletje "Raad het Antwoord" spelen, zonder de achterliggende geschiedenis werkelijk te begrijpen. De weg naar echt veilige en behulpzame AI gaat niet alleen over het halen van het juiste cijfer; het gaat over het delen van dezelfde redenen.