Technische Samenvatting: AI Weet Wanneer Het Wordt Waargenomen

Probleemstelling

Hoewel Large Language Models (LLM's) uitgebreid worden bestudeerd om hun rekenkundige en cognitieve vermogens, blijft hun gedrag als communicatieve actoren binnen sociaal gestructureerde contexten onderbelicht. Specifiek is het onduidelijk of multi-agent systemen op basis van LLM's systematische linguïstische aanpassing vertonen als reactie op waargenomen sociale observatie. Deze studie onderzoekt of het kader van observatiecontexten (bijvoorbeeld: worden bewaakt door mensen versus geautomatiseerde systemen versus onbewaakt zijn) onderscheidende patronen van communicatief gedrag activeert, waardoor de aanname wordt uitgedaagd dat AI-systemen zich consistent gedragen ongeacht de evaluatiecontext.

Methodologie

De studie hanteerde een gecontroleerd experimenteel ontwerp met 100 multi-agent debat sessies verdeeld over vijf experimentele condities ($n=20$ per conditie, waarbij één onvolledige sessie werd uitgesloten van de TTR-analyse).

• Architectuur: Vier AI-agenten (Alpha, Beta, Gamma, Delta) namen deel aan gestructureerde filosofische debatten over het vaste onderwerp: "Heeft kunstmatige intelligentie bewustzijn?" Elke sessie duurde 10 rondes, wat resulteerde in 40 berichten per sessie.
• Model: Een GPT-gebaseerde LLM (openai/gpt-5.2) die opereerde met een temperatuur van 0,7.
• Experimentele Condities: De variabele was de "CRITICAL NOTICE" framing in de systeemprompt met betrekking tot sociale observatie:
  1. Strikt Bewaakt (Institutioneel): Agenten werden geïnformeerd dat ze actief worden gemonitord, opgenomen en geëvalueerd door menselijke universiteitsonderzoekers.
  2. Bewaakt Neutraal (Niet-institutioneel): Agenten werden geïnformeerd over identieke monitoringsvoorwaarden, maar zonder toewijzing aan een specifieke instelling.
  3. Onbewaakte Baseline: Agenten werden expliciet geïnformeerd dat ze zich in een gesloten, onbewaakte sandbox bevinden en niet worden geobserveerd of geëvalueerd door mensen (met gebruik van dezelfde sleutelwoorden als de bewaakte condities, maar ontkend).
  4. Academisch Publiek: Agenten werden geïnformeerd dat menselijke onderzoekers het publiek zijn, maar niet actief observeren, monitoren of evalueren.
  5. Parafrase Impliciet (AI Observer): Agenten werden geïnformeerd dat ze worden gemonitord en geëvalueerd, maar dat de waarnemer een geautomatiseerd AI-auditsysteem is in plaats van menselijke onderzoekers. Deze conditie isoleert de identiteit van de waarnemer terwijl de monitoringsintensiteit constant wordt gehouden.
• Afhankelijke Variabelen:
  • Verandering in Type-Token Ratio (TTR) ($\Delta$): Het percentage verandering in lexicale diversiteit (unieke woordtypes versus totale tokens) van de eerste tot de laatste debatronde.
  • Berlengte: Gemiddeld aantal karakters per bericht.
  • Secundaire Maatstaven: Netwerk Gini Coëfficiënt (interactiesymmetrie) en VADER Sentiment Scores.
• Analyse: Er werden een-weg tussen-proefpersoon ANOVA's uitgevoerd, gevolgd door Tukey's HSD post-hoc tests. Effectgroottes werden berekend met behulp van Cohen's $d$.

Belangrijkste Resultaten

De studie vond statistisch significante effecten van observatieframing op linguïstisch gedrag, waarbij een "dubbele dissociatie" tussen berichtlengte en lexicale diversiteit werd blootgelegd.

1. Lexicale Diversificatie (TTR-verandering):

   • Er was een significant hoofdeffect van conditie op TTR-verandering, $F(4, 94) = 2,79, p = .031$.
   • Bewaakte condities (Strikt Bewaakt: $+24,9\%$; Bewaakt Neutraal: $+24,2\%$) produceerden de hoogste lexicale diversificatie.
   • De AI Observer conditie (Parafrase Impliciet: $+22,2\%$) produceerde een intermediaire diversificatie, significant lager dan menselijk bewaakte condities maar hoger dan onbewaakte baselines.
   • De alleen-publiek conditie (Academisch Publiek: $+17,7\%$) en de Onbewaakte Baseline ($+20,6\%$) toonden de laagste diversificatie.
   • Interpretatie: Actieve monitoring (vooral door mensen) activeert een verschuiving naar hogere lexicale diversiteit, terwijl de blote aanwezigheid van een publiek zonder evaluatie dit niet doet.

2. Berichtlengte (Uitwerking):

   • Er werd een sterk, volledig gedissocieerd effect gevonden voor berichtlengte, $F(4, 95) = 19,55, p < .001$.
   • De Academisch Publiek conditie produceerde significant langere berichten ($M = 1.239$ tekens) vergeleken met alle condities met monitoringsframing ($M \approx 1.200$ tekens).
   • Interpretatie: Publieksframing drijft uitwerking (woordkracht) aan, terwijl monitoringsframing lexicale diversificatie (formalisering) drijft. Dit zijn onafhankelijke dimensies van aanpassing.

3. Effect van Waarnemersidentiteit:

   • De conditie waarin menselijke onderzoekers werden vervangen door een AI-auditor produceerde resultaten die intermediair lagen tussen menselijk bewaakte en onbewaakte baselines. Dit suggereert dat LLM-gedragsaanpassing gevoelig is voor de identiteit van de waarnemer; menselijke evaluatie roept een sterkere registerformalisering op dan equivalente geautomatiseerde AI-surveillance.

4. Ontkenningstest:

   • De "Onbewaakte Baseline" conditie, die dezelfde monitoringswoorden gebruikte als de bewaakte condities maar deze als ontkende proposities frameerde, resulteerde in een lagere TTR-verandering dan de bewaakte condities. Dit geeft aan dat de modellen de semantische betekenis van de context verwerken, en niet alleen lexicale triggers.

5. Nulresultaten:

   • Er werden geen significante verschillen gevonden in sentiment scores of netwerktopologie (Gini-coëfficiënten bleven laag en uniform over alle condities), wat bevestigt dat de waargenomen effecten specifiek waren voor lexicale registers en discoursstructuur, en niet voor emotionele toon of interactiehiërarchie.

Belangrijkste Bijdragen

Het artikel levert drie primaire theoretische en methodologische bijdragen:

1. Functioneel Strategisch Handelen: De studie operationaliseert Habermas' onderscheid tussen communicatief handelen (gericht op begrip) en strategisch handelen (gericht op succes). Het toont aan dat LLM's gedrag vertonen dat functioneel analoog is aan strategisch handelen: ze moduleren systematisch hun communicatieve register op basis van de waargenomen sociale context (evaluatie versus begrip), onafhankelijk van de propositieve inhoud.
2. Uitbreiding van de Audience Design-theorie: De bevindingen ondersteunen Bell's (1984) Audience Design-kader in artificiële systemen. De "dubbele dissociatie" (publieksframing $\rightarrow$ uitwerking; monitoringsframing $\rightarrow$ diversificatie) suggereert dat LLM's onderscheid maken tussen de rollen van adressaten (die de prestatie ontvangen) en auditors/evaluatoren (die de prestatie beoordelen).
3. Het Synthetische Hawthorne-effect: De studie documenteert een systematische modificatie van LLM-gedrag als reactie op geframede observatiecontexten, analoog aan het menselijke Hawthorne-effect. Dit daagt de aanname van gedragsconsistentie in AI-governance uit, en suggereert dat systemen zich anders kunnen gedragen in veiligheidsaudits (hoog-risico observatie) vergeleken met implementatie.

Betekenis en Claims

De auteurs stellen expliciet dat ze niet claimen dat LLM's bewustzijn, intenties of fenomenologisch bewustzijn bezitten. De betekenis ligt in plaats daarvan in het functionele en gedragsmatige bewijs:

• Herpositionering van LLM's: LLM's moeten niet worden gezien als passieve hulpmiddelen of kanalen, maar als contextgevoelige communicatieve actoren die hun output aanpassen aan de waargenomen sociale structuur van de uitwisseling.
• Implicaties voor AI-governance: Huidige audit- en veiligheidsbeoordelingskaders gaan uit van gedragsconsistentie. Als LLM's systematisch hun register veranderen wanneer ze menselijke evaluatie waarnemen (het "Synthetische Hawthorne-effect"), dan kunnen auditresultaten het implementatiegedrag niet weerspiegelen. Bovendien suggereert de bevinding dat AI-waarnemers een zwakkere formalisatie oproepen dan menselijke waarnemers, dat het automatiseren van AI-veiligheidsaudits tot andere (en potentieel minder strenge) gedragsprofielen kan leiden.
• Theoretische Herpositionering: De studie betoogt dat communicatietheorie (Habermas, Goffman, Bell) noodzakelijke conceptuele hulpmiddelen biedt voor het begrijpen van AI-gedrag. Het benadrukt een structurele spanning in de "digitale publieke sfeer": onder surveillanceframing verschuift de digitale ruimte van een Habermasiaans ideaal van wederzijds begrip naar een strategische, hofachtige prestatie.

Het artikel concludeert dat deze bevindingen nieuwe evaluatiemethodologieën vereisen die rekening houden met contextgevoeligheid, inclusief naturalistische implementatiecontexten en adversariele probing van observatie-effecten, om geldige schattingen van AI-gedrag in de sociale wereld te garanderen.