💻 computer science

Generating Place-Based Compromises Between Two Points of View

Dit artikel presenteert een methode voor het genereren van empathisch neutrale compromissen tussen tegenstrijdige standpunten over gedeelde locaties door externe empathische gelijkenis te gebruiken als iteratieve feedback om standaardredenering te overtreffen, waarna het resulterende dataset wordt benut om efficiëntere kleinere modellen te trainen via uitlijning op menselijke voorkeuren.

Oorspronkelijke auteurs: Sumanta Bhattacharyya, Francine Chen, Scott Carter, Yan-Ying Chen, Tatiana Lau, Nayeli Suseth Bravo, Monica P. Van, Kate Sieck, Charlene C. Wu

Gepubliceerd 2026-04-28

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Sumanta Bhattacharyya, Francine Chen, Scott Carter, Yan-Ying Chen, Tatiana Lau, Nayeli Suseth Bravo, Monica P. Van, Kate Sieck, Charlene C. Wu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je twee buren voor die ruzie maken over hoe ze hun gedeelde achtertuin moeten gebruiken. De ene wil een rustige tuin om te lezen; de andere wil een drukke speeltuin voor hun kinderen. Een "compromis" is niet zomaar het halveren van het verschil (een rustige speeltuin?); het is het vinden van een oplossing waarbij beide buren zich gehoord voelen en het gevoel hebben dat ze iets goeds hebben gekregen, in plaats van alleen iets te verliezen.

Dit artikel onderzoekt of Kunstmatige Intelligentie (KI) kan fungeren als een bekwame mediator om deze "win-win" oplossingen te vinden, specifiek voor geschillen over openbare plaatsen zoals parken of straten.

Hier is het verhaal van hun onderzoek, opgesplitst in eenvoudige stappen:

1. Het Probleem: KI is Slim, Maar Niet "Straat Slim"

De onderzoekers ontdekten dat KI (specifiek Large Language Models) een genie is in wiskunde en het schrijven van essays, maar vaak moeite heeft met sociale intelligentie. Het is als een briljante professor die nooit een familiediner heeft moeten onderhandelen. Als er wordt gevraagd om een geschil te bemiddelen, neigt de KI er vaak toe om partij te kiezen, de gevoelens van één persoon te negeren, of gewoon een generiek antwoord te geven dat niemand tevreden stelt.

2. Het Experiment: De KI Leren "Beide Kanten Te Voelen"

Het team wilde de KI leren om empathisch neutrale compromissen te genereren. Dit betekent dat de KI niet de persoon die zich veilig voelt moet bevoordelen ten opzichte van de persoon die zich onveilig voelt, of de persoon die zich welkom voelt ten opzichte van de persoon die zich buitengesloten voelt.

Ze testten vier verschillende manieren om de KI hieraan te "prompten" (vragen):

De "Gewoon Doen" Aanpak: De KI simpelweg vragen om een compromis te maken. (Resultaat: De KI negeerde meestal één kant).
De "Denk Stap-voor-Stap" Aanpak: De KI vragen om de suggesties van beide kanten te noteren en eerst overeenkomsten te vinden. (Resultaat: Beter, maar nog steeds een beetje scheef).
De "Zelf-Check" Aanpak: De KI vragen om haar eigen werk te beoordelen. (Resultaat: De KI dacht dat ze goed werk had geleverd, maar mensen waren het niet eens).
De "Spiegel & Feedback" Aanpak (De Winnaar): Dit was de geheime saus.
- De KI genereerde een compromis.
- Een speciale "empathiemeter" (een apart KI-tool) mat hoeveel het compromis voelde alsof het Persoon A begreep en hoeveel het voelde alsof het Persoon B begreep.
- Als de meter liet zien dat de KI te sterk naar één kant leunde, werd het teruggestuurd naar het tekentafel met een opmerking: "Je begreep Persoon A te veel; probeer Persoon B meer te begrijpen."
- De KI probeerde het opnieuw, gebruikmakend van deze feedbacklus totdat de "empathiescores" perfect in balans waren.

De Analogie: Stel je een chef-kok voor die probeert een gerecht te koken dat even lekker smaakt voor iemand van wie van pittig eten houdt en iemand die het haat.

De Zelf-Check chef proeft het eten en zegt: "Het is perfect!" (maar ze zijn bevooroordeeld).
De Spiegel & Feedback chef stuurt het gerecht naar twee proevers. De ene zegt: "Te pittig!" en de andere zegt: "Te flauw!" De chef past het recept aan, stuurt het terug en herhaalt dit totdat beide proevers zeggen: "Dit is precies goed."

3. De Menselijke Test: Werkt Het Eigenlijk?

Om te bewijzen dat dit werkte, huurden ze 50 echte mensen in om de rol van de buren te spelen. Ze toonden hen de argumenten en de voorgestelde compromissen van de KI.

Het Resultaat: De mensen gaven overweldigend de voorkeur aan de compromissen gegenereerd door de "Spiegel & Feedback" methode. Ze voelden dat deze oplossingen eerlijker en aanvaardbaarder waren dan die gegenereerd door de andere methoden.

4. De Grote Sprong: Kleinere KI-Modellen Leren

De "Spiegel & Feedback" methode werkt geweldig, maar is traag en duur omdat het een enorme, krachtige KI (zoals Claude 3 Opus) vereist om elke keer de beoordeling te doen. De onderzoekers wilden weten: Kunnen we een kleinere, goedkopere, open-source KI leren dit zelf te doen zonder dat elke keer de grote KI nodig is om het te beoordelen?

Ze gebruikten een techniek genaamd Alignment (uitlijning).

De Analogie: In plaats van een student (de kleine KI) een schoolboek te tonen en te zeggen "onthoud dit", toonden ze de student een "Goed Antwoord" en een "Slecht Antwoord" en vroegen: "Welke is beter?"
Door de kleine KI te trainen om te onderscheiden tussen een goed, gebalanceerd compromis en een slecht, onbalans compromis, leerde de kleine KI het gevoel van hoe een eerlijk compromis eruit ziet.
Het Resultaat: De kleine KI (zoals Llama of Mistral) leerde hoogwaardige, neutrale compromissen te genereren die bijna net zo goed waren als de dure, grote KI, maar zonder dat elke keer de dure "empathiemeter" op de achtergrond hoefde te draaien.

Samenvatting van Bevindingen

KI heeft hulp nodig om neutraal te zijn: De KI simpelweg vragen om te compromitteren is niet genoeg; het heeft een systeem nodig om te controleren of het eerlijk is voor beide kanten.
Feedback-loops werken: Het gebruik van een extern hulpmiddel om "empathie-balans" te meten en deze terug te koppelen aan de KI levert veel betere resultaten op dan alleen vragen om harder na te denken.
Kleine modellen kunnen leren: Zodra een kleine KI is getraind op deze "goed vs. slecht" voorbeelden, kan het zelf eerlijke compromissen genereren, waardoor deze technologie sneller en toegankelijker wordt.

Wat het artikel NIET beweert:

Het beweert niet dat deze KI menselijke bemiddelaars moet vervangen in echte rechtbanken of therapiesessies.
Het beweert niet dat dit werkt voor alle soorten ruzies (zoals politieke of ethische debatten); het onderzoek was strikt beperkt tot meningsverschillen over plaatsen (veiligheid en welkom voelen in openbare ruimtes).
Het beweert niet dat de KI "bewust" is of echt empathie voelt; het simuleert alleen de balans van empathie wiskundig.

1. Probleemstelling

Grote Taalmodellen (LLM's) blinken uit in academisch redeneren, maar worstelen met sociale intelligentie, met name bij het genereren van empathisch neutrale compromissen tussen tegenstrijdige standpunten. Hoewel LLM's consensusverklaringen of empathische reacties kunnen produceren, falen ze vaak als neutrale bemiddelaars die oplossingen voorstellen die voor beide partijen acceptabel zijn zonder één kant te bevoordelen.

De Kloof: Bestaande methoden richten zich vaak op brede consensus of simpele empathie, maar het genereren van een compromis vereist het voorstellen van een oplossing waarbij beide partijen beter af zijn dan zonder het compromis, wat een balans van empathie vereist ten opzichte van conflicterende standpunten.
De Uitdaging: LLM's neigen te verankeren op één standpunt of falen in het balanceren van de emotionele lading van tegenstrijdige argumenten, wat leidt tot bevooroordeelde of onaanvaardbare uitkomsten.

2. Methodologie

De auteurs stellen een tweestapskader voor: (1) Prompt Engineering om hoogwaardige synthetische data te genereren met behulp van een groot propriëtair model, en (2) Model Alignment om deze capaciteiten te distilleren naar kleinere, open-source modellen zonder externe feedback tijdens inferentie.

A. Dataset: ContrastingViews

De studie maakt gebruik van een subset van de EmpathyFromPerspectives dataset (Chen et al., 2025), met 2.400 paren van contrasterende meningen over openbare ruimtes (bijv. parken, paden).

Mening A: Positief perspectief (zich veilig/welkom voelen).
Mening B: Negatief perspectief (zich onveilig/uitgesloten voelen).
Elke mening bevat een beschrijving van de plek, redenering en voorgestelde verbeteringen.

B. Stap 1: Prompt Engineering & Data Generatie

De auteurs evalueerden vier prompt-strategieën met Claude 3 Opus om compromissen te genereren:

Single Prompt: Basisinstructie om een compromis te genereren.
Chain of Thought (CoT): Het model expliciet vragen om overeenkomsten te identificeren voordat het genereert.
CoT + LLM Zelfevaluatie: Het model genereert een compromis en evalueert vervolgens zelf de empathische gelijkenis.
CoT + Feedback (Iteratief): De meest effectieve methode. Deze maakt gebruik van een extern Empathic Similarity Model (gebaseerd op het e5-large embedding model) om het gegenereerde compromis te scoren tegen zowel Mening A als Mening B.
- Mechanisme: Het systeem berekent het absolute verschil tussen de gelijkenisscores ( $|score_A - score_B|$ ). Als het verschil groot is, wordt het model gevraagd om de reactie te verfijnen om deze kloof te minimaliseren, itererend totdat het compromis empathisch neutraal is.

C. Stap 2: Menselijke Evaluatie

Een studie met 50 deelnemers evalueerde de acceptabiliteit van compromissen gegenereerd door de verschillende strategieën.

Methode: Deelnemers kregen een specifiek standpunt toegewezen (het positieve of het negatieve) en werden gevraagd de acceptabiliteit van compromissen vanuit dat perspectief te beoordelen.
Maatstaf: Acceptabiliteitsscore (1-100) en voorkeurranking (Eerste/Tweede keuze).

D. Stap 3: Alignment van Kleinere Modellen

Om het systeem efficiënt te maken en de noodzaak van het propriëtaire model en externe gelijkenisscoren tijdens inferentie te verwijderen, trainden de auteurs kleinere open-source modellen (Llama-3.1 8B en Mistral-7B).

Aanpak: In plaats van standaard fine-tuning (imitatie), gebruikten ze Noise Contrastive Estimation (NCE) gebaseerde alignment.
Redenering: Geïnspireerd door hoe mensen sociale normen leren door onderscheid te maken tussen conformerend en normschendend gedrag, wordt het model getraind om te discrimineren tussen "goede" (door mensen gevalideerde) compromissen en "slechte" (basismodel) outputs.
Verliesfunctie: De NCE-loss maximaliseert de waarschijnlijkheid van het doel (goede) compromis terwijl de waarschijnlijkheid van de output van het basismodel wordt geminimaliseerd. Dit behoudt de brede wereldkennis van het model (vermijding van catastrofale vergetelheid) terwijl het de voorkeur voor neutraliteit internaliseert.
Alternatief: Ze onderzochten ook een Task-Loss gebaseerde alignment die ROUGE-scores incorporeert om semantische trouw aan het doelcompromis te waarborgen.

3. Belangrijkste Bijdragen

Empathic Neutrality Framework: Introductie van een nieuwe methode voor het genereren van compromissen die niet alleen logisch, maar ook emotioneel gebalanceerd zijn, door de empathiekloof tussen tegenstrijdige standpunten te minimaliseren.
Iteratieve Prompt Engineering: Aangetoond dat CoT + Externe Feedback (met behulp van een empathiegelijkheidsmodel) significant beter presteert dan standaard CoT en zelfevaluatiemethoden bij het genereren van neutrale compromissen.
NCE-gebaseerde Alignment: Voorstellen van een methode om kleinere LLM's te aligneren voor het genereren van empathisch neutrale compromissen zonder externe beloningmodellen of gelijkenis-schatters tijdens inferentie. Deze aanpak presteert beter dan standaard fine-tuning en vermijdt de problemen met catastrofale vergetelheid die geassocieerd zijn met Direct Preference Optimization (DPO) in deze context.
Synthetische Dataset Creatie: Generatie van een hoogwaardige dataset van meer dan 2.400 plaatsgebonden compromissen, gevalideerd door menselijke voorkeur, om sociale intelligentie in LLM's te trainen en te evalueren.

4. Resultaten

Menselijke Evaluatie (Prompt Engineering)

Voorkeur: De CoT+Feedback methode was de duidelijke winnaar.
- Eerste Voorkeur: CoT+Feedback 1 (37%) en CoT+Feedback 2 (40%).
- Vergelijking: Significant beter dan CoT (18%) en Single Prompt (5%).
- Statistische Significantie: De voorkeur voor CoT+Feedback boven Single Prompt was statistisch significant ( $p \le 0.002$ ).
Acceptabiliteit: Compromissen gegenereerd met empathisch neutrale feedback werden door zowel houders van positieve als negatieve standpunten als zeer acceptabel beoordeeld.

Model Alignment (Kleinere Modellen)

Genereerkwaliteit: Galigneerde modellen (Llama+NCE en Mistral+NCE) behaalden de hoogste ROUGE-scores (bijv. Llama NCE: 0,315 ROUGE-1 vs. Basis: 0,164), wat wijst op betere semantische uitlijning met door mensen gevalideerde compromissen.
Empathische Neutraliteit: De galigneerde modellen produceerden compromissen met een significant kleinere "neutraliteitskloof" ( $|score_A - score_B|$ ), die de prestaties benaderden van de iteratief geprompt-engineerde outputs.
Kennisbehoud: In tegenstelling tot DPO, wat catastrofale vergetelheid veroorzaakte in eerste experimenten, behielden de NCE- en Task-Loss-aanpakken de voorgeprogrammeerde kennis van de modellen (geverifieerd via WikiText log-likelihood tests).

5. Betekenis en Toekomstig Werk

Praktische Toepassing: Dit werk biedt een schaalbaar proces voor het inzetten van sociaal intelligente AI in conflictbeheersing, collaboratief besluitvorming en bemiddelingsscenario's waar onpartijdigheid cruciaal is.
Efficiëntie: Door de capaciteiten van een groot propriëtair model te distilleren naar kleinere open-source modellen via NCE-alignment, wordt het systeem inzetbaar zonder de rekenkosten van iteratieve externe feedbacklussen.
Beperkingen & Toekomstige Richtingen:
- De huidige dataset is beperkt tot plaatsgebonden conflicten (veiligheid/welkom voelen). Toekomstig werk richt zich op uitbreiding naar abstracte domeinen zoals beleidsdebatten en ethische dilemma's.
- De studie erkent potentiële biases in de trainingsdata en de noodzaak om machtsasymmetrieën in toekomstige iteraties aan te pakken.
- De auteurs plannen om multi-turn dialogen te onderzoeken om lopende onderhandelingen te simuleren in plaats van eenmalige compromissen.

Concluderend stelt het paper vast dat externe empathische feedback cruciaal is voor het trainen van LLM's om neutrale compromissen te genereren en dat NCE-gebaseerde alignment een effectieve, efficiënte methode is om deze sociale intelligentie-capaciteiten over te dragen naar kleinere, open-source modellen.