Persuasion with Large Language Models: A Survey of Empirical Evidence, Study Methodologies, and Ethical Implications

Probleemstelling

De snelle opkomst van Large Language Models (LLM's) heeft een disruptieve verschuiving teweeggebracht in de wereld van overtuigende communicatie. Waar persuasie voorheen voornamelijk door mensen werd uitgevoerd via massamedia of persoonlijke interactie, kunnen LLM-systemen nu volledig geautomatiseerde, gepersonaliseerde en interactieve content genereren op een ongekende schaal.

Het centrale probleem dat dit artikel adresseert, is het gebrek aan een systematisch overzicht van de empirische evidentie rondom de invloed van LLM-systemen op menselijke attitudes en gedrag. Er is een urgente behoefte om te begrijpen:

1. In welke mate LLM-systemen menselijke overtuigingskracht evenaren of overtreffen.
2. Welke technische en ontwerpfactoren (zoals prompt engineering, personalisatie en interactiemodellen) deze effectiviteit beïnvloeden.
3. Hoe de huidige methodologieën om overtuigingskracht te meten zich verhouden tot de ethische risico's van manipulatie, desinformatie en het ondermijnen van individuele autonomie.

Methodologie

De auteurs hebben een systematische literatuurstudie uitgevoerd volgens de volgende criteria:

• Tijdsraam: Publicaties tussen januari 2022 en oktober 2025 (met een focus op de periode na de release van ChatGPT in november 2022).
• Inclusiecriteria: Papers die een LLM gebruiken om tekst te genereren met de intentie te overtuigen, en die een menselijke uitkomst rapporteren (attitudeverandering, keuze, compliance, of geschaalde scores).
• Uitsluiting: Theoretische papers, studies die alleen linguïstische eigenschappen meten zonder menselijke respons, of systemen die alleen tekst aanbevelen in plaats van genereren.
• Zoekstrategie: Een query in Scopus leverde duizenden resultaten op. Na handmatige screening van titels en abstracts van de meest relevante papers (top 200 peer-reviewed en top 50 preprints) werd een corpus geselecteerd.
• Synthese: Voor elke paper werden gestructureerde notities gemaakt over toepassingdomeinen, beïnvloedende factoren, experimenteel ontwerp, succesmetrieken en de conclusies over overtuigingskracht ten opzichte van mensen.

Belangrijkste Bijdragen en Resultaten

1. Toepassingsdomeinen

Het onderzoek identificeert vijf hoofddomeinen waarin LLM-systemen worden ingezet:

• Volksgezondheid: Van het genereren van vaccinatieboodschappen tot interactieve therapie-assistenten voor verslavingsbehandeling en mentale gezondheid.
• Politiek: Het genereren van beleidsargumenten, campagnemateriaal, propaganda en interactieve debatten. Studies tonen aan dat LLM's vaak even effectief zijn als menselijke consultants, vooral bij microtargeting.
• E-commerce en Marketing: Gebruik in chatbots voor productaanbevelingen, onderhandelingen en gepersonaliseerde advertenties. LLM's kunnen vaak betere prijzen bedingen dan script-gebaseerde agenten.
• Desinformatie: LLM's worden zowel gebruikt om overtuigende desinformatie te genereren (die moeilijk te onderscheiden is van menselijke content) als om desinformatie te bestrijden via interactieve ontmaskering.
• Goeddoelen: Het herschrijven van verzoeken om donaties en het gebruik van interactieve chatbots om giften te werven.

2. Factoren die Overtuigingskracht Beïnvloeden

De survey identificeert vijf cruciale factoren die de effectiviteit van LLM-systemen bepalen:

• Interactie-aanpak: Interactieve, multi-turn dialogen kunnen effectiever zijn dan statische berichten, vooral op complexe onderwerpen, maar het bewijs is gemengd; soms zijn statische berichten net zo effectief.
• Modelgrootte en -capaciteit: Er is een positieve correlatie tussen modelgrootte en overtuigingskracht, maar er vertonen afnemende meeropbrengsten (diminishing returns) bij zeer grote modellen. Gespecialiseerde fine-tuning van kleinere modellen kan soms beter presteren dan grotere, ongetrainde modellen.
• Aanduiding van AI-bron: Het bekendmaken dat een bericht door een AI is geschreven, leidt vaak tot minder vertrouwen en lagere overtuigingskracht ("human favoritism bias"), tenzij de content sterk gepersonaliseerd is.
• Prompt Design: De manier waarop de prompt is opgesteld (rol, toon, retorische strategie) is cruciaal. Het gebruik van "feiten en bewijs" werkt vaak beter dan emotionele appeals voor AI, in tegenstelling tot menselijke overtuigers die soms baat hebben bij narratieven.
• Personalisatie: Hoewel gepersonaliseerde content vaak effectiever is, tonen sommige grote studies aan dat goed geschreven generieke berichten soms net zo effectief zijn als microtargeted berichten. De effectiviteit hangt sterk af van de specifieke persoonlijkheidstrekken van de gebruiker en de implementatie.

3. Vergelijking met Menselijke Overtuigingskracht

De resultaten tonen drie scenario's aan:

• Pariteit: In veel gevallen presteren LLM-systemen op hetzelfde niveau als menselijke overtuigers (bijv. in beleidsargumentatie).
• Supermenselijke prestaties: Onder bepaalde omstandigheden (zoals interactieve debatten met persoonlijke data, of gebruik van strategische fabricatie van statistieken) overtreffen LLM's menselijke overtuigers significant.
• Inferioriteit: LLM's presteren slechter wanneer de bron als AI wordt onthuld, vooral in domeinen waar expertise wordt verwacht, of wanneer de content niet goed is afgestemd op de doelgroep.

4. Methodologische Uitdagingen

De survey benadrukt dat veel studies nog steeds vertrouwen op zelfgerapporteerde attitudes (proxy-metrieken) in plaats van gedrag. Er is een tekort aan longitudinale studies die de duurzaamheid van overtuigingskracht op lange termijn meten. Daarnaast wordt het gebruik van synthetische simulaties (waarbij LLM's fungeren als gebruikers) steeds populairder, maar de validiteit hiervan ten opzichte van menselijk gedrag blijft een vraagteken.

Ethische Implicaties en Betekenis

De conclusie van het artikel is dat de huidige capaciteiten van LLM-systemen voor overtuiging diepe ethische en maatschappelijke risico's met zich meebrengen:

• Informatie-integriteit: Het risico op schaalbare, gepersonaliseerde desinformatie en manipulatie is enorm.
• Polarisatie: Gepersonaliseerde content kan echo-kamers versterken en de maatschappelijke polarisatie vergroten.
• Privacy: De noodzaak aan persoonlijke data voor effectieve personalisatie botst met privacyrechten.
• Autonomie: Er is een risico op het ondermijnen van individuele autonomie en vrije wil door subtiele, onzichtbare manipulatie.

Significantie:
Dit artikel fungeert als een waarschuwing en een oproep tot actie. Het stelt dat de huidige regelgeving (zoals de EU AI Act) onvoldoende is om de snelheid van technische vooruitgang bij te houden. De auteurs pleiten voor:

1. Striktere ethische richtlijnen en transparantie (bijv. verplichte AI-labeling).
2. De ontwikkeling van robuuste benchmarks die gedrag en niet alleen attitudes meten.
3. Een multidisciplinaire aanpak waarbij technici, ethicisten en beleidsmakers samenwerken om de verantwoordelijke inzet van deze technologie te garanderen voordat deze op maatschappelijke schaal wordt ingezet.

Kortom, LLM-systemen zijn krachtige instrumenten voor overtuiging die menselijke capaciteiten kunnen evenaren of overtreffen, maar hun ongecontroleerde inzet vormt een existentieel risico voor de democratische processen en de persoonlijke autonomie.