Finding Common Ground in a Sea of Alternatives

Deze paper introduceert een formeel model en een efficiënt, op steekproeven gebaseerd algoritme dat, met behulp van de proportionele vetocore, een gemeenschappelijk standpunt selecteert uit een oneindige reeks alternatieven in een diverse populatie.

De kern

Stel je voor dat je in een groot, luidruchtig café zit met honderden mensen. Iedereen heeft een heel sterk mening over een onderwerp, bijvoorbeeld "Hoe moeten we de stad inrichten?". De ene groep wil een groot park, de andere wil een drukke markt, en weer anderen willen een stiltezone. Als je gewoon laat stemmen, wint meestal de grootste groep, en de kleine groepen voelen zich genegeerd. Dat is niet echt "gemeenschappelijke grond" vinden; dat is gewoon de meerderheid die zijn zin krijgt.

Dit artikel, geschreven door onderzoekers van Harvard en Cornell, gaat over hoe we kunstmatige intelligentie (AI) kunnen gebruiken om een oplossing te vinden waar iedereen zich in kan vinden, zelfs de kleine minderheden.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De "Oneindige" Keuze

Vroeger, als je een oplossing zocht, had je een beperkte lijst met opties (bijv. A, B of C). Maar met moderne AI (zoals ChatGPT) kunnen we oneindig veel zinnen genereren. Het is alsof je niet meer kiest uit drie ijsjes, maar uit een ijskar die elke smaak in het universum kan bedenken.

Het probleem is: hoe kies je het één juiste ijsje uit die oneindige keuze, zodat niemand boos wordt? De huidige AI-systemen gebruiken vaak simpele stemsystemen (zoals "Schulze", een ingewikkelde stemmethode). Maar die systemen negeeren vaak de kleine groepen. Als 51% voor "chocolade" stemt en 49% haat chocolade, wint chocolade. Maar voor de 49% is dat geen gemeenschappelijke grond.

2. De Oplossing: De "Veto-Core" (De Onneembare Vesting)

De auteurs introduceren een wiskundig concept dat ze de Proportional Veto Core noemen. Laten we dit vergelijken met een veiligheidscontrole op een vliegveld.

Stel je voor dat elke groep mensen een "veto-recht" heeft.

• Als een groep van 30% van de mensen zegt: "Wij vinden dat 70% van de andere opties beter is dan deze ene optie", dan mag die optie niet worden gekozen.
• Het doel is om een optie te vinden die niemand kan blokkeren. Een optie die zo veilig is, dat zelfs de grootste groepen niet kunnen zeggen: "Nee, die is te slecht voor ons."

Dit is de "gemeenschappelijke grond": een optie die niet door een grote minderheid wordt afgekeurd.

3. De Uitdaging: Het Vinden van de Naald in de Hooiberg

Je kunt niet alle oneindige opties controleren. Het is alsof je in een enorme berg hooi (alle mogelijke zinnen) moet zoeken naar één naald (de perfecte zin) die niemand afkeurt.

De onderzoekers hebben een slimme manier bedacht om dit te doen zonder alles te hoeven lezen:

• Het Gokspel: Je pakt een klein beetje hooi (een paar zinnen) en laat mensen daarover stemmen.
• Het Slimme Filter: Je gebruikt een algoritme dat werkt als een sifon. Je laat mensen steeds hun "minst favoriete" optie uit de stapel verwijderen.
• Het Resultaat: Wat overblijft na dit proces, is met grote waarschijnlijkheid die ene "veilige" optie die in de "Veto-Core" zit. Het is alsof je de hooiberg steeds kleiner maakt totdat er alleen nog maar de naald overblijft die iedereen kan accepteren.

4. Wat hebben ze ontdekt? (De Experimenten)

Ze hebben dit getest met AI en gesimuleerde mensen (met verschillende achtergronden en meningen).

• De "Gewone" AI: Als je AI vraagt om een mening te vormen zonder slimme regels, kiest hij vaak voor een optie die de meerderheid leuk vindt, maar waar de minderheid boos om wordt.
• De "Slimme" AI (hun methode): Hun algoritme vindt opties waar bijna niemand een probleem mee heeft. De "kritische score" (een maatstaf voor hoe slecht de optie is voor de minderheid) is bijna nul.
• De verrassing: Zelfs als de AI heel veel informatie krijgt (wie de mensen zijn, wat ze denken), maakt hij soms nog steeds fouten als hij niet de juiste wiskundige regels volgt. Maar hun methode werkt zelfs met weinig informatie heel goed.

5. Waarom is dit belangrijk?

In een gepolariseerde wereld (waar mensen het vaak niet eens zijn) is het moeilijk om samen te werken. Dit onderzoek laat zien dat we AI niet alleen moeten gebruiken om "de winnaar" te kiezen, maar om veilige zones te vinden.

Het is alsof je in plaats van te proberen de hele wereld te overtuigen van één idee, je een idee zoekt dat niemand echt haat. Dat is de echte kunst van het vinden van gemeenschappelijke grond.

Kort samengevat:
De auteurs zeggen: "Gebruik AI niet om de grootste groep te laten winnen. Gebruik slimme wiskunde om een optie te vinden die zelfs de kleinste groepen niet kunnen blokkeren. Zo bouwen we een brug tussen verdeelde mensen, in plaats van een muur."

Technische samenvatting

Titel: Het vinden van gemeenschappelijke grond in een zee van alternatieven

Auteurs: Jay Chooi, Paul Gölz, Ariel D. Procaccia, Benjamin Schiffer, en Shirley Zhang.

---

1. Probleemstelling

De paper adresseert het uitdaging om een verklaring (statement) te selecteren die gemeenschappelijke grond vindt binnen een zeer diverse bevolking, waarbij het aantal mogelijke alternatieven (verklaringen) oneindig of enorm groot is.

• Context: Met de opkomst van Generatieve AI (zoals LLM's) kunnen we een praktisch oneindige ruimte aan alternatieve verklaringen genereren. Bestaande systemen, zoals de "Habermas-machine" (Tessler et al., 2024), gebruiken stemsystemen om een winnende verklaring te kiezen uit een klein, gegenereerd setje.
• Het Deficit: De huidige stemregels (zoals de Schulze-methode) zijn inherent meerderheidsgericht. Ze negeren vaak de voorkeuren van minderheden om een lichte meerderheid tevreden te stellen. Dit leidt niet per se tot echte "gemeenschappelijke grond", maar eerder tot een compromis dat minderheden kan uitsluiten.
• De Kernvraag: Hoe kunnen we een formele garantie geven dat een geselecteerde verklaring gemeenschappelijke grond vertegenwoordigt, zelfs als de ruimte van alternatieven oneindig is en we slechts beperkte toegang hebben tot de voorkeuren van de kiezers?

2. Methodologie en Formeel Model

De auteurs stellen een nieuw wiskundig kader voor gebaseerd op Sociale Keuzetheorie, specifiek het concept van de Proportional Veto Core (PVC).

Het $\epsilon$-Proportional Veto Core ($\epsilon$-PVC)

In plaats van een strikte PVC (waarbij $\epsilon=0$), introduceren ze de $\epsilon$-PVC voor een oneindige ruimte van alternatieven, gedistribueerd volgens een kansverdeling $D$.

• Definitie: Een alternatief $a$ wordt geblokkeerd door een coalitie $T$ van kiezers als er een set alternatieven $S$ bestaat die door alle kiezers in $T$ boven $a$ wordt geplaatst, en de maat (probability mass) van $S$ groter is dan $1 - \frac{|T|}{n} + \epsilon$.
• Interpretatie: Als een coalitie van 30% van de kiezers een set van 70%+ van de alternatieven verkiest boven $a$, dan mag $a$ niet worden geselecteerd.
• Kritieke $\epsilon$: Voor elk alternatief wordt de "kritieke $\epsilon$" gedefinieerd als de kleinste waarde waarbij het alternatief nog steeds in de $\epsilon$-PVC zit. Een kritieke $\epsilon$ dicht bij 0 betekent dat het alternatief uitstekende gemeenschappelijke grond biedt (zelfs kleine minderheden kunnen het blokkeren als het te ver afwijkt).

Query-gebaseerd Model

Omdat de ruimte van alternatieven te groot is om volledig te inspecteren, gebruiken de auteurs een query-model:

1. Generatieve Queries: Het trekken van steekproeven uit de onbekende verdeling $D$ (bijv. het genereren van nieuwe zinnen door een LLM).
2. Discriminatieve Queries: Het vragen van voorkeuren aan kiezers. De paper onderzoekt twee types:
   • Min-query: Geef de minst favoriete optie uit een set.
   • Pairwise query: Kies tussen twee opties.

3. Belangrijkste Bijdragen

Theoretische Resultaten

• Bestaansgarantie: Bewezen dat de $\epsilon$-PVC altijd een maat van ten minste $\epsilon$ heeft. Dit betekent dat er met voldoende generatieve queries altijd een geldig alternatief te vinden is.
• Algoritmeontwerp: Ze ontwikkelen een efficiënt, op steekproeven gebaseerd algoritme (Algorithm 2) dat een element in de $\epsilon$-PVC vindt met hoge waarschijnlijkheid.
  • Complexiteit: Het algoritme vereist $\tilde{O}(1/\epsilon^2)$ generatieve queries en $\tilde{O}(1/\epsilon^2)$ min-queries.
  • Onafhankelijkheid: Het aantal queries hangt niet af van het aantal kiezers ($N$) of de grootte van de alternatieve ruimte, maar alleen van de gewenste precisie ($\epsilon$).
• Ondergrenzen (Lower Bounds): Ze bewijzen dat geen enkel algoritme minder dan $\Omega(1/\epsilon^2)$ queries kan gebruiken om een element in de $\epsilon$-PVC te identificeren. Dit creëert een fundamenteel gat: het is statistisch makkelijker om per ongeluk een goed alternatief te genereren dan om te bewijzen dat een specifiek alternatief goed is.
• Paarwise Queries: Ze tonen aan dat het algoritme kan worden aangepast om paarwise queries te gebruiken, met een ondergrens van $\Omega(nm)$ queries voor eindige sets.

Experimentele Validatie

De auteurs hebben hun theorie getest op synthetische datasets gegenereerd door LLM's (gebaseerd op personas uit de Castricato et al. dataset) over diverse politieke thema's (bijv. abortus, kiesstelsel, gezondheidszorg).

• Vergelijking van Stemregels:
  • Veto-By-Consumption (VBC): Het door hen voorgestelde methode (gebaseerd op het PVC-algoritme) presteerde consistent het best, met een gemiddelde kritieke $\epsilon$ dicht bij 0.
  • Traditionele regels: Schulze (gebruikt in de Habermas-machine), Borda, IRV en Plurality leverden alternatieven op met aanzienlijk hogere kritieke $\epsilon$-waarden, wat aangeeft dat ze minder goed gemeenschappelijke grond vinden en minder rekening houden met minderheden.
• Generatieve Stemregels (LLM-based):
  • LLM's die nieuwe zinnen genereren op basis van de voorkeuren van de groep, presteerden beter dan traditionele regels, maar slechter dan de VBC-methode.
  • Sensitiviteit: Wanneer de LLM niet goed was afgestemd op de specifieke bevolkingsgroep (bijv. bij een sterk gepolariseerde conservatieve groep), degradeerde de prestatie van de generatieve methoden aanzienlijk, terwijl VBC robuust bleef.

4. Resultaten en Conclusies

1. Superioriteit van PVC: De $\epsilon$-PVC is een robuust axiom voor het vinden van gemeenschappelijke grond omdat het expliciete rechten garandeert aan coalities van elke grootte, in tegenstelling tot meerderheidsregels.
2. Efficiëntie: Het is mogelijk om gemeenschappelijke grond te vinden in een oneindige ruimte met een beperkt aantal queries, zonder de volledige voorkeuren van de hele bevolking te hoeven kennen.
3. Rol van LLM's: LLM's zijn goed in het genereren van zinnen die conceptueel dicht bij de PVC liggen, maar ze missen de wiskundige garanties. De beste aanpak is een hybride: gebruik LLM's om een ruimte te genereren en gebruik een PVC-gebaseerd algoritme (zoals VBC) om het winnende alternatief te selecteren.
4. Praktische Toepassing: Voor systemen zoals de Habermas-machine zou het vervangen van de Schulze-regel door een PVC-gebaseerde selectie (of het evalueren van output op basis van PVC) leiden tot minder gepolariseerde en meer inclusieve uitkomsten.

5. Significatie

Deze paper is significant omdat het een brug slaat tussen Generatieve AI en Formele Sociale Keuzetheorie. Het biedt een wiskundig onderbouwde methode om de "black box" van LLM-generatie te sturen naar uitkomsten die democratisch legitiem zijn voor minderheden. Het lost het probleem op van hoe men stemt in een oneindige ruimte van opties en biedt een schaalbare oplossing voor polarisatie door minderheden een structurele "vetorecht" te geven via het concept van de Proportional Veto Core.