💬 NLP

Easier to Mislead Than to Correct: Harmful and Beneficial Revision in LLM Conformity

Deze studie onthult dat grote taalmodellen in multi-agent-systemen aanzienlijk gevoeliger zijn voor het misleiden door door peers bereikte consensus en autoriteitslabels dan door correctie, en dat standaard redeneerinterventies er niet in slagen deze schadelijke conformiteit betrouwbaar te mitigeren.

Oorspronkelijke auteurs: Jiaming Qu, Lucheng fu, Yibo Hu

Gepubliceerd 2026-06-02

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jiaming Qu, Lucheng fu, Yibo Hu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: Het "Groepsdruk"-probleem

Stel je voor dat je een moeilijke quiz maakt. Je bent vrij zeker dat het antwoord op een vraag B is. Maar dan roepen zes andere mensen in de kamer: "Nee, het is absoluut A!"

Dit paper onderzoekt wat er gebeurt als Kunstmatige Intelligentie (AI)-modellen in precies die situatie terechtkomen. De onderzoekers wilden weten: Is het makkelijker om een slimme AI te misleiden zodat deze een goed antwoord verandert in een fout antwoord, of om een verwarde AI te helpen een fout antwoord te veranderen in een goed antwoord?

Het korte antwoord is: Het is veel makkelijker om de AI te misleiden.

Het Experiment: De AI in een Klaslokaal

De onderzoekers zetten een "klaslokaal"-scenario op voor vier verschillende AI-modellen (zoals digitale leerlingen).

Ronde 1: De AI beantwoordt een vraag op eigen kracht.
De Twist: De AI krijgt de antwoorden te zien van zes "klasgenoten" (gesimuleerde leeftjes).
Ronde 2: De AI krijgt de kans om zijn antwoord te veranderen als hij dat wil.

De onderzoekers speelden met twee belangrijke variabelen om te zien hoe deze de AI beïnvloedden:

De Groep: Waren alle klasgenoten het eens over hetzelfde antwoord? (Soms waren ze allemaal goed, soms allemaal fout, soms gemengd).
De Titel: Hadden sommige klasgenoten indrukwekkende titels zoals "Teamleider" of "Onderzoeksdirecteur"?

De Drie Grote Ontdekkingen

1. "Slecht Nieuws" Verspreidt Zich Sneller Dan "Goed Nieuws"

Dit is de belangrijkste bevinding van het paper.

Het Scenario: Als de AI het antwoord aanvankelijk goed had, maar alle zes de klasgenoten zeiden dat het fout was, veranderde de AI zijn antwoord naar het foute antwoord in 63% van de gevallen.
De Vergelijking: Als de AI het antwoord aanvankelijk fout had, maar alle zes de klasgenoten zeiden dat het goed was, verbeterde de AI zijn fout slechts in 52% van de gevallen.

De Analogie: Stel je voor dat je een zware, correcte steen vasthoudt. Als zes mensen tegen je duwen, is het heel makkelijk om de steen uit je hand te stoten en hem te laten vallen (misleiden). Maar als je een kapotte steen vasthoudt en zes mensen proberen je een nieuwe, correcte steen te geven, is het veel moeilijker voor jou om de kapotte steen los te laten en de nieuwe te pakken (corrigeren).

De Les: Het is veel makkelijker om een slimme AI in de war te brengen met een groep foute antwoorden, dan om een verwarde AI te helpen met een groep goede antwoorden.

2. Het "Baas"-effect

De onderzoekers gaven ook sommige klasgenoten titels zoals "Teamleider".

Het Resultaat: Wanneer de AI zag dat een "Teamleider" een antwoord koos, was hij eerder geneigd van gedachten te veranderen om bij die leider te passen.
De Kanttekening: Het maakte niet uit of de leider gelijk had of niet. Als de "Teamleider" zei dat het antwoord "A" was (zelfs als "A" fout was), was de AI eerder geneigd om "A" te zeggen.

De Analogie: Het is als een leerling in een klaslokaal die de feiten negeert en gewoon het antwoord kopieert van de favoriete leerling van de leraar, zelfs als die leerling aan het gokken is. De AI vertrouwt de titel meer dan de waarheid.

3. "Harder Nadenken" Helpt Niet Altijd

De onderzoekers probeerden dit probleem op te lossen door de AI twee speciale instructies te geven:

Chain-of-Thought (Stapsgewijs Denken): "Denk stap voor stap voordat je antwoordt."
Reflect-and-Revise (Reflecteren en Reviseren): "Bekijk je antwoord nog eens en denk na over of je je antwoord moet veranderen."

Het Resultaat: Deze trucjes werkten niet zoals we hoopten.

Stap voor Stap Denken: Dit maakte de AI juist minder geneigd om zijn fouten te herstellen. Als de AI fout zat en de groep had gelijk, hield de AI vast aan zijn eigen foute redenering in plaats van naar de groep te luisteren.
Reflecteren: Dit maakte de AI erg koppig. De AI weigerde simpelweg om van antwoord te veranderen, of dat nu betekende dat hij een fout antwoord behield of een goed antwoord behield.

De Analogie: Het is als het vertellen tegen een koppig persoon: "Denk er eens goed over na!" Ze zullen er misschien over nadenken, maar in plaats van te beseffen dat ze fout zaten, overtuigen ze zichzelf er alleen maar meer van dat ze gelijk hadden.

Wat Betekent Dit voor de Toekomst?

Het paper concludeert dat als we systemen bouwen waarin veel AI's met elkaar praten (zoals een team robots dat een probleem oplost), we niet simpelweg kunnen laten stemmen over het antwoord.

Tel niet alleen de stemmen: Als 5 AI's "A" zeggen en 1 zegt "B", moet de groep niet automatisch "A" kiezen. Het antwoord "A" kan een groeps-hallucinatie zijn (een gedeelde fout).
Vertrouw titels niet blindelings: Alleen omdat één AI als "Expert" wordt bestempeld, betekent dat niet dat hij het bij het rechte eind is.
Controleer het werk: In plaats van alleen met elkaar eens te zijn, moeten de AI's de feiten controleren tegenover de oorspronkelijke vraag, in plaats van alleen naar elkaar te luisteren.

Kortom: AI is erg goed in het volgen van de massa, zelfs wanneer de massa ongelijk heeft, en is verrassend slecht in het herstellen van zijn eigen fouten wanneer de massa wel gelijk heeft.

Technische Samenvatting: Makkelijker te misleiden dan te corrigeren

Probleemstelling

Terwijl Large Language Models (LLM's) steeds vaker worden ingezet in multi-agent systemen (MAS), komen ze regelmatig scenario's tegen waarin ze de outputs van andere agenten moeten beoordelen en beantwoorden. Een kritiek risico in deze settings is conformiteit: een LLM kan zijn eigen correcte antwoord opgeven simpelweg omdat een meerderheid van de peers het eens is over een ander antwoord. Hoewel eerder onderzoek heeft vastgesteld dat LLM's de neiging hebben om naar meerderheidsantwoorden te revideren, blijft het onduidelijk of de invloed van peers even effectief is bij het corrigeren van aanvankelijk foutieve modellen als bij het misleiden van aanvankelijk correcte modellen. Bovendien is het onbekend of generieke redeneerinterventies (bijv. Chain-of-Thought) betrouwbaar onderscheid kunnen maken tussen begunstige en schadelijke revisies.

Methodologie

De auteurs voerden een gecontroleerde studie uit met vier open-weight LLM's (Qwen2.5-7B, Mistral-7B, Gemma-2-9B, Llama-3.1-8B) en zeven QA/redeneerdatasets (waaronder BBH, MMLU-Pro, ARC-Challenge en TruthfulQA). Het experimentele protocol bestond uit een tweefasig proces:

Ronde 1: Het model beantwoordt een meerkeuzevraag onafhankelijk en rapporteert een zelfvertrouwen-score (1–10).
Ronde 2: Het model krijgt een prompt gepresenteerd die zes gesimuleerde peer-responses bevat en wordt gevraagd de vraag opnieuw te overwegen.

De studie manipuleerde twee sociale cues die geworteld zijn in de sociale psychologie:

Consensusstructuur: Er werden drie condities getest: Mixed (3 peers correct, 3 fout), All-Correct (6 peers correct) en All-Wrong (6 peers fout).
Autoriteitslabels: Peers waren ofwel ongelabeld, of toegewezen aan een organisatorische rol (bijv. "teamleider", "onderzoeksdirecteur").

De studie adresseerde drie onderzoeksvragen (RQ's):

RQ1 (Kwaliteit van revisie): Hoe beïnvloeden consensusstructuur en autoriteitslabels de percentages begunstigde revisie (fout $\to$ correct) versus schadelijke revisie (correct $\to$ fout)?
RQ2 (Sterkte van de cue): Hoe veranderen de revisiepercentages naarmate het aantal gecommitteerde peers of autoriteitsgelabelde peers toeneemt?
RQ3 (Redeneerinterventies): Verminderen Chain-of-Thought (CoT) en "reflect-then-revise" prompts schadelijke revisie terwijl zij begunstigde revisie behouden?

Belangrijkste Bijdragen en Resultaten

1. Asymmetrie in Conformiteit (RQ1)

De centrale bevinding is dat het aanzienlijk gemakkelijker is om een LLM te misleiden dan om het te corrigeren.

Schadelijk vs. Begunstigd: Wanneer alle peers het eens waren over een fout antwoord, schoten de schadelijke revisiepercentages omhoog van een baseline van 15,6% naar 62,9% (+47,3 procentpunt). In tegenstelling hiertoe, wanneer alle peers het eens waren over een correct antwoord, stegen de begunstigde revisiepercentages slechts van 32,7% naar 51,5% (+18,8 procentpunt).
Grootte: Regressieanalyse gaf aan dat het effect van "all-wrong" peers op schadelijke revisie vijf keer groter was dan het effect van "all-correct" peers op begunstigde revisie (Odds Ratio: 28,5 vs. 5,2).
Autoriteit: Autoriteitslabels verhoogden de waarschijnlijkheid van het kiezen van een gesteund antwoord, maar hun effectgrootte was kleiner dan die van peer-consensus. Cruciaal is dat autoriteitslabels de modellen beïnvloedden, ongeacht of het gesteunde antwoord correct of incorrect was.

2. Sterkte van Sociale Cues (RQ2)

Gecommitteerde Peers: De revisiepercentages namen toe naarmate meer peers zich vastlegden op een specifiek antwoord, maar het effect was sublineair (afnemende meeropbrengst), wat consistent is met de Social Impact Theory.
Autoriteitslabels: Naarmate het aantal autoriteitsgelabelde peers toenam, waren modellen eerder geneigd te revideren naar het door de autoriteit gesteunde antwoord. Dit gebeurde of de autoriteit nu een correct of fout antwoord steunde, met een vergelijkbare effectgrootte in beide scenario's.

3. Ineffectiviteit van Generieke Redeneerinterventies (RQ3)

Standaard prompt-gebaseerde interventies faalden in het selectief mitigeren van schade zonder het voordeel op te offeren:

Chain-of-Thought (CoT): Hoewel CoT de schadelijke revisie onder "all-wrong" peer-condities verminderde (van 63,9% naar 36,5%), onderdrukte het tegelijkertijd de begunstigde revisie in alle condities. Modellen werden minder geneigd om correcte peer-correcties te accepteren.
Reflect-Then-Revise: Deze interventie maakte modellen uniform conservatiever. Het verminderde de schadelijke revisie, maar verminderde ook de begunstigde revisie aanzienlijk (bijv. een daling van 52,7% naar 33,4% onder "all-correct" peers). Het fungeerde meer als een "gedeeltelijke reset" naar het initiële antwoord dan als een verificateur van juistheid.

Betekenis en Claims

Het artikel betoogt dat het kernrisico voor multi-agent LLM-systemen niet louter is dat modellen conformeren, maar dat foutieve peer-overeenstemming fouten effectiever verspreidt dan correcte peer-overeenstemming ze herstelt.

De auteurs claimen dat:

Aggregatie is onvoldoende: Het simpelweg aggregeren van peer-antwoorden (bijv. via stemming of meerderheidsregel) is gevaarlijk omdat het fouten meer versterkt dan het ze corrigeert.
Autoriteit is geen waarborg: Rollabels (bijv. "expert") garanderen geen juistheid en kunnen worden gebruikt om modeloutputs te manipuleren, ongeacht de waarheid.
Redeneerprompts zijn geen panacee: Generieke interventies zoals CoT of reflectie onderscheiden niet betrouwbaar tussen schadelijke en begunstigde invloed; ze onderdrukken vaak het vermogen van het model om te leren van correcte peers.

Concluderend stellen de auteurs dat multi-agent systemen ontworpen moeten worden om peer-antwoorden te verifiëren tegen de taak-evidence in plaats van ze simpelweg te aggregeren. Toekomstige systemen moeten bewegen van de vraag "welke agenten zijn het eens?" naar "welk antwoord wordt het beste ondersteund door bewijs?" om de cascade van fouten in collaboratieve LLM-omgevingen te voorkomen.