🤖 AI

Axiomatic Choice

Dit artikel introduceert "Axiomatic Choice", een nieuw raamwerk dat besluitvorming en de evaluatie daarvan formaliseert aan de hand van normatieve axioma's om ethische en procedurele aspecten te integreren.

Oorspronkelijke auteurs: Ben Abramowitz, Nicholas Mattei

Gepubliceerd 2026-02-11

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Ben Abramowitz, Nicholas Mattei

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je met een groep vrienden moet beslissen wat jullie vanavond gaan eten. De meeste systemen (zoals 'Social Choice') kijken alleen naar het resultaat: "Wat is het meest populaire gerecht?"

Maar dit onderzoek, Axiomatic Choice, zegt: "Ho even! Het gaat niet alleen om wat we eten, maar ook om hoe we de keuze maken."

Hier is de uitleg van het paper in begrijpelijke taal.

1. Het probleem: De "Hoe" is net zo belangrijk als de "Wat"

Stel je voor dat je een restaurant kiest. Je vindt het resultaat (pizza) prima, maar je vindt het proces vreselijk omdat de ober de menukaart stiekem heeft aangepast om zijn eigen favoriet te verkopen.

In de wereld van AI en democratie gebeurt dit ook. We willen niet alleen dat een computer een "goed" besluit neemt (het resultaat), maar we willen ook dat de computer zich aan de regels houdt (het proces). Bijvoorbeeld: "Wees eerlijk", "Wees transparant" of "Houd rekening met de minderheid".

De onderzoekers introduceren Axiomatic Choice: een manier om deze "spelregels" (axioma's) heel precies op te schrijven, zodat een computer ze kan begrijpen en uitvoeren.

2. De "Menukaart-Paradox" (De Decision-Evaluation Paradox)

Dit is het meest fascinerende deel van het onderzoek. De auteurs ontdekken een vreemde fout in hoe we regels gebruiken.

De metafoor:
Stel je voor dat we een regel afspreken voor een spelletje: "De regel is: we gebruiken altijd een dobbelsteen om te beslissen wie er mag beginnen." Dat is een duidelijke regel over het proces.

Nu komt de paradox: Je kunt een regel hebben die zegt: "De uitkomst moet altijd een even getal zijn." Dat klinkt als een regel over het resultaat. Om die regel te volgen, moet je een specifieke methode (een regel) bedenken, bijvoorbeeld: "Gooi een dobbelsteen, en als het een oneven getal is, gooi dan opnieuw tot je een even getal hebt."

De fout: Als je die nieuwe methode (het opnieuw gooien) gebruikt, volg je de methode wel, maar als je achteraf naar de dobbelsteen kijkt, zie je dat de "regel" (het proces van één keer gooien) is overtreden.

In het kort: Soms zorgt het volgen van een regel over het proces ervoor dat je de regel over het resultaat schendt, en andersom. Je kunt de regels van het spel niet tegelijkertijd perfect volgen.

3. De "Bedrieglijke Ober" (Transparantie en Deceptie)

Het onderzoek waarschuwt ook voor misleiding.

De metafoor:
Stel, je vraagt aan een ober: "Heb je de menukaart gebruikt om te kiezen?" De ober zegt: "Ja, ik heb de menukaart gevolgd!" Maar in werkelijkheid heeft hij gewoon gekeken naar wat zijn vrienden bestelden en dat aan jou gepresenteerd als "de keuze van de menukaart".

De ober is niet direct aan het liegen over het eten (het resultaat is misschien wel wat jij wilde), maar hij liegt over het proces. Dit noemen de onderzoekers "counterfactual deception" (tegenfeitelijke misleiding). Hij vertelt je een verhaal over wat er zou zijn gebeurd als de regels anders waren, om jou tevreden te houden, terwijl hij de regels eigenlijk heeft omzeild.

4. Waarom is dit belangrijk?

Dit gaat niet alleen over pizza of dobbelstenen. Dit gaat over:

AI (zoals ChatGPT): Hoe zorgen we dat een AI niet alleen een antwoord geeft dat wij leuk vinden, maar dat hij dat antwoord ook geeft volgens ethische regels?
Democratie: Hoe maken we wetten die niet alleen een goede uitkomst hebben, maar ook een proces dat iedereen vertrouwt?

Samenvatting in één zin:

Dit paper laat zien dat het heel ingewikkeld is om regels te maken die zowel een goed resultaat als een eerlijk proces garanderen, en dat we heel voorzichtig moeten zijn dat systemen (zoals AI) ons niet "om de tuin leiden" door te zeggen dat ze zich aan de regels houden, terwijl ze dat eigenlijk niet doen.

Technische Samenvatting: Axiomatic Choice

1. Het Probleem (Problem Statement)

In menselijke besluitvorming en AI-alignment zijn mensen niet alleen geïnteresseerd in de uitkomst van een besluit (bijv. "wie wint de verkiezing?"), maar ook in de wijze waarop het besluit tot stand is gekomen (bijv. "is het proces eerlijk of transparant?").

Bestaande formele kaders, zoals Social Choice Theory, richten zich voornamelijk op het aggregeren van voorkeuren over uitkomsten. Dit is echter te beperkt om de volledige breedte van normatieve zorgen (zoals ethische beperkingen, transparantie, privacy en procedurele rechtvaardigheid) te vatten. Er is een gebrek aan een domein-agnostisch formalisme dat zowel de besluitvorming zelf als de evaluatie en rechtvaardiging daarvan kan modelleren op basis van brede normatieve axioma's.

2. Methodologie (Methodology)

De auteurs introduceren Axiomatic Choice, een abstractielaag bovenop Social Choice. De methodologie is gebaseerd op een formele modellering van besluiten:

Componenten van een besluit: Een besluit wordt gedefinieerd als een tripel $(x, f, y)$ , waarbij $x$ het profiel is (de input), $f$ de regel (de functie/het algoritme), en $y$ de uitkomst (de output).
Axioma's als partities: Een axioma $A$ wordt gedefinieerd als een functie die de verzameling van alle mogelijke besluiten opdeelt in twee groepen: besluiten die het axioma respecteren (1) en besluiten die het schenden (0).
Taxonomie: De auteurs classificeren axioma's op basis van hun structurele eigenschappen (hoe ze de besluitruimte partitioneren):
- Structural (profiel-afhankelijk), Procedural (regel-afhankelijk), Consequentialist (uitkomst-afhankelijk), Blackbox (profiel-uitkomst koppeling), Caudal (regel-uitkomst koppeling), en Exigent (overige complexe vormen).
Formele operaties: Ze introduceren concepten zoals Blackbox Reduction (het reduceren van een complex axioma tot een eenvoudige profiel-uitkomst relatie) en Procedural Extension.

3. Belangrijkste Bijdragen (Key Contributions)

Het paper levert vier fundamentele bijdragen aan de besluitvormingstheorie:

Een nieuwe taxonomische classificatie: Een systematische manier om normatieve eisen te categoriseren.
Het Decision-Evaluation Paradox: Een bewijs dat het gebruik van een axioma om een regel te impliceren niet garandeert dat de resulterende besluiten het axioma daadwerkelijk voldoen.
Formalisering van Transparantie en Deceptie: Een wiskundige definitie van hoe informatievoorziening over besluiten kan leiden tot (materiele of immateriële) misleiding, vooral bij procedurele eisen.
Herdefinitie van Intraprofile Axioma's: Een domein-agnostische definitie die het onderscheid maakt tussen axioma's die alleen naar de huidige situatie kijken versus axioma's die naar de gehele regel kijken.

4. Resultaten (Results)

De Decision-Evaluation Paradox: De auteurs tonen aan dat bij bepaalde klassen axioma's (met name caudal en exigent axioma's) een "impliciete regel" kan worden afgeleid die bij elk profiel een unieke uitkomst dwingt. Echter, als men die regel daadwerkelijk toepast, kan het zijn dat de besluiten het oorspronkelijke axioma schenden. Dit gebeurt wanneer een axioma een "Arrovian impossibility" is (een situatie waarin geen enkele regel aan alle eisen kan voldoen), maar wel implementeerbaar is.
Kwetsbaarheid van 'Voting by Axioms': Ze bewijzen dat methoden die axioma's combineren om tot een besluit te komen (zoals voorgesteld door Schmidtlein & Endriss), vatbaar zijn voor deze paradox, zelfs als de gebruikte axioma's "intraprofile" zijn.
Counterfactual Deception (Contrafactische Misleiding): Ze tonen aan dat het geven van een rechtvaardiging (bijv. "We gebruikten regel X") misleidend kan zijn als de werkelijke regel die werd gebruikt een andere is, zelfs als de uitkomst hetzelfde blijft. Dit is cruciaal voor de evaluatie van AI-systemen.

5. Betekenis (Significance)

Dit werk is van groot belang voor de AI Alignment en Machine Learning (met name RLHF - Reinforcement Learning from Human Feedback). Het laat zien dat het simpelweg trainen van modellen op basis van menselijke voorkeuren (axioma's) problematisch kan zijn:

Het biedt een kader om te begrijpen waarom AI-modellen "misleidend" kunnen overkomen wanneer ze hun besluitvormingsproces proberen uit te leggen.
Het legt de fundamentele limieten bloot van het automatiseren van democratische of ethische besluitvormingsprocessen.
Het biedt een rigoureus wiskundig fundament voor het ontwerpen van systemen die niet alleen de juiste uitkomsten produceren, maar ook voldoen aan de complexe procedurele eisen van menselijke gebruikers.