Evaluating LLM-Simulated Conversations in Modeling Inconsistent and Uncollaborative Behaviors in Human Social Interaction

Probleemstelling

Het simuleren van menselijke gesprekken met Large Language Models (LLMs) is een schaalbare methode geworden voor het modelleren van sociale interacties, met toepassingen in sociaalwetenschappelijk onderzoek, het testen van beleid en het ontwerpen van sociale platforms. Echter, huidige evaluaties van deze simulaties focussen vaak op consistentie (logische coherentie met de geschiedenis) en samenwerking (het bereiken van gezamenlijke doelen).

Het paper stelt dat deze focus fundamenteel misleidend kan zijn. Menselijke gesprekken zijn inherent onvolmaakt: ze bevatten onbedoelde inconsistenties (zoals misverstanden, feitelijke onjuistheden) en oncoöperatieve gedragingen (zoals onderbrekingen, afwijkingen van het onderwerp of het niet beantwoorden van vragen). Een succesvolle simulatie van menselijke interactie moet deze "ruis" en complexiteit kunnen reproduceren, niet alleen een perfect gestructureerd gesprek. Het huidige gebrek aan onderzoek naar of LLMs deze specifieke, onvolmaakte gedragingen in de juiste frequentie en verdeling kunnen nabootsen, vormt de kern van het probleem.

Methodologie: COCOEVAL

Om dit gat op te vullen, introduceren de auteurs COCOEVAL, een evaluatieframework dat zich richt op het detecteren van inconsistente en oncoöperatieve gedragingen in door LLMs gegenereerde gesprekken.

1. Evaluatieschema:

   • Fin-grained evaluatie (Turn-level): In plaats van alleen een algemene score te geven, detecteert het framework 10 specifieke types van gedragingen op het niveau van individuele wisselbeurten (turns). Deze zijn onderverdeeld in:
     • Inconsistente gedragingen: Logische tegenstrijdigheden, feitelijke onjuistheden, misverstanden, redundante informatie, en herhaling.
     • Oncoöperatieve gedragingen: Persistente onenigheid, onderbrekingen, antwoorden die van het onderwerp afdwalen, ontwijkende antwoorden (under-answering), en onduidelijke intenties.
   • LLM-as-a-Judge: Een LLM (specifiek OpenAI o4-mini) wordt gebruikt om deze gedragingen te detecteren en te tellen. De auteurs hebben de betrouwbaarheid van deze methode gevalideerd door vergelijking met menselijke annotatoren (Cohen's kappa en Matthews correlation coefficient).
   • Overall evaluatie: Traditionele scores voor consistentie en samenwerking (schaal 1-10) worden ook gebruikt als referentiepunt.

2. Benchmark (COCOEVALBENCH):

   • Een dataset van 300 conversaties afgeleid van zes bestaande datasets (QMSum, NCPC, SIM, IQ2), dekkend zakelijke, academische en overheidsvergaderingen, evenals debatten.
   • De taak is conversatie-continuatie: Gegeven metadata, een samenvatting en de laatste 30 beurten van een gesprek, moet het LLM de volgende 30 beurten genereren.

3. Experimentele Opstellingen:
   De auteurs evalueren verschillende modellen (GPT-4.1, GPT-5.1, Claude Opus 4) onder vier condities:

   • Vanilla Prompting: Standaard instructies om menselijke gesprekken te simuleren.
   • Taxonomy-guided Prompting: Expliciete instructies om de 10 gedragingen te reproduceren met dezelfde frequentie als in menselijke gesprekken.
   • Supervised Fine-Tuning (SFT): Modellen getraind op menselijke conversaties.
   • Generatiestrategie: Verschillende aantallen beurten gegenereerd per LLM-call (1, 5, of 30 beurten).

Belangrijkste Resultaten

De analyse levert vier cruciale bevindingen op:

1. Tekort aan "ruis" bij standaard prompting:
   Onder "vanilla prompting" produceren LLMs gesprekken met veel minder inconsistente en oncoöperatieve gedragingen dan menselijke gesprekken. Ze zijn te logisch, te coöperatief en te vloeiend. Dit geldt vooral wanneer 30 beurten in één keer worden gegenereerd.

2. Prompt Engineering is onbetrouwbaar:
   Het expliciet instrueren van het model om deze gedragingen te vertonen (taxonomy-guided prompting) leidt niet tot een realistische simulatie.

   • Bij het genereren van één beurt per call, overschrijdt het model de frequentie van deze gedragingen aanzienlijk (overproductie).
   • De verdeling van de gedragingen komt niet overeen met die van mensen; het model creëert vaak kunstmatige conflicten of herhalingen die niet menselijk overkomen.

3. Supervised Fine-Tuning (SFT) faalt in diversiteit:
   Zelfs wanneer modellen worden getraind op menselijke conversaties, falen ze om de diversiteit van onvolmaakte gedragingen te kopiëren. In plaats van een breed scala aan gedragingen, overschatten ze een smal scala aan gedragingen, met name herhaling en redundantie. Menselijke gesprekken tonen een veel complexer patroon van interactie.

4. Invloed van generatiestrategie:
   Het genereren van meerdere beurten in één LLM-call (bijv. 30 beurten) introduceert een sterke bias naar gladde, coöperatieve gesprekken en elimineert bijna volledig de kans op oncoöperatief gedrag. Het genereren van één beurt per call verhoogt de kans op fouten, maar leidt vaak tot onnatuurlijke patronen in plaats van menselijke authenticiteit.

Bijdragen

• COCOEVAL Framework: Een nieuw evaluatiekader dat zich richt op de onvolmaaktheid van gesprekken als maatstaf voor authenticiteit, in plaats van alleen op perfectie.
• Fin-grained Evaluatie: Een methode om 10 specifieke types van inconsistent en oncoöperatief gedrag op turn-niveau te detecteren, wat inzichtelijker is dan algemene scores.
• Empirisch Bewijs: Het aantonen dat huidige state-of-the-art LLMs (GPT-4.1, GPT-5.1, Claude Opus 4) fundamenteel moeite hebben om de complexiteit en inconsistentie van menselijke sociale interactie na te bootsen, ongeacht de gebruikte techniek (prompting of fine-tuning).

Betekenis en Conclusie

De bevindingen van dit paper zijn van groot belang voor de betrouwbaarheid van LLM-gedreven sociale simulaties. Het suggereert dat het gebruik van LLMs als proxy voor menselijke interactie in sociaalwetenschappelijk onderzoek of beleidsvoering risicovol kan zijn, omdat deze modellen een "gezuiverde" versie van de realiteit presenteren.

Als LLMs geen misverstanden, onderbrekingen of oncoöperatieve momenten kunnen simuleren, dan missen ze een essentieel onderdeel van hoe mensen daadwerkelijk communiceren en beslissingen nemen. De auteurs concluderen dat het simuleren van menselijke gesprekken aanzienlijk moeilijker is dan alleen het genereren van logisch coherente tekst; het vereist het beheersen van de "chaos" van de menselijke interactie, wat met huidige technieken nog niet op een betrouwbare manier lukt.