Umm... With Transformers? Insights from Filled Pause Use across Four Slavic Parliaments

Technische Samenvatting: Inzichten uit het gebruik van gevulde pauzes in vier Slavische parlementen

Probleemstelling
Gevulde pauzes (filled pauses, FPs), zoals "uh" en "um", zijn universele kenmerken van spontane spraak, maar empirisch onderzoek naar hun productie wordt beperkt door de afhankelijkheid van kleine, enkelvoudige taalcorpora. Deze beperking belemmert de statistische kracht en de generaliseerbaarheid van bevindingen over verschillende linguïstische en culturele contexten heen. Bovendien confondeert bestaande literatuur vaak stabiele sprekerseigenschappen met variaties op het niveau van de uiting (state-level variations), waardoor het moeilijk is om onderscheid te maken tussen een gewoonlijke spreekstijl en de eisen van momentane planning. Deze studie adresseert deze hiaten door ongeveer 4.000 uur aan parlementaire spraak over vier verwante Slavische talen (Kroatisch, Tsjechisch, Pools en Servisch) te analyseren om de voorspellers van FP-percentages te onderzoeken in een grootschalige, linguïstisch diverse setting.

Methodologie
Het onderzoek maakt gebruik van de ParlaSpeech-dataset, bestaande uit 6.000 uur aan parlementaire spraak, gefilterd om 1.001.787 uitingen van 1.561 sprekers (reguliere parlementsleden) te bevatten met uitingen van ten minste 3 seconden en 10 woorden.

• Automatische detectie: Gevulde pauzes werden geïdentificeerd met behulp van een transformer-gebaseerd model (wav2vec2-bert) dat getraind is op Sloveense data en getest over de vier doeltalen, waarbij een event-niveau F1-score van ongeveer 0,92 werd behaald.
• Kenmerkextractie: Metadata van de spreker (geslacht, leeftijd, politieke oriëntatie, machtsstatus) werden verkregen uit officiële registers. Sentiment werd voorspeld met XLM-R-ParlaSent, en de spraaksnelheid werd berekend als het aantal syllabische klinkers gedeeld door de audio-duur.
• Statistische modellering: De studie maakt gebruik van Generalised Estimating Equations (GEE) met een negatief binomiale verdeling om FP-aantallen te modelleren, waarbij log(audio-duur) als offset wordt gebruikt om resultaten als ratio's uit te drukken.
• Decompositiestrategie: Een cruciaal methodologisch onderdeel is de toepassing van Mundlak-gecorrigeerde modellen. Deze aanpak deelt tijdvariërende voorspellers op in twee componenten:
  1. Tussen-spreker effecten (between-speaker effects): Stabiele eigenschappen van een spreker (bijv. de gemiddelde leeftijd van een spreker of de gebruikelijke sentiment van een spreker).
  2. Binnen-spreker effecten (within-speaker effects): Afwijkingen van de eigen baseline van een spreker tijdens specifieke uitingen (bijv. een spreker die tijdens een specifieke sessie positiever spreekt dan gebruikelijk).
     Deze decompositie stelt de auteurs in staat om onderscheid te maken tussen associaties op kenmerk-niveau (trait-level) en variaties op het niveau van de toestand (state-level). Er werden tien modellen gefit: baseline en Mundlak-gecorrigeerde specificaties, geschat zowel globaal (gepoolde) als afzonderlijk voor elk parlement.

Belangrijkste Resultaten
De analyse levert onderscheidende bevindingen op met betrekking tot gevestigde en nieuwe voorspellers van FP-percentages:

• Geslacht: In tegenstelling tot veel eerdere literatuur die hogere FP-percentages bij mannen rapporteert, stelt deze studie vast dat mannelijke sprekers globaal gezien significant minder FPs produceren dan vrouwelijke sprekers (Incidence Rate Ratio [IRR] = 0,636). Dit effect is robuust en wordt volledig gedreven door Zuid-Slavische parlementen (Kroatië en Servië), waar de reductie aanzienlijk is. In West-Slavische parlementen (Tsjechië en Polen) waren de geslachtsverschillen niet significant.
• Leeftijd: Een negatieve associatie tussen leeftijd en het FP-percentage werd bevestigd. Globaal gezien gaat elke extra tien jaar leeftijd gepaard met een reductie van 13,8% in FPs. Dit contrasteert met sommige conversationele corpora die een toename van FPs bij veroudering rapporteren, wat de domeinafhankelijkheid van leeftijdingseffecten bevestigt.
• Spraaksnelheid: Er bestaat een sterke negatieve correlatie tussen de spraaksnelheid en het FP-percentage. De binnen-spreker component is de sterkste voorspeller in de dataset, wat aangeeft dat momentane planningsbehoeften (vertragen en aarzelen) de productie van FPs meer drijven dan het gebruikelijke tempo van een spreker.
• Sentiment: Er werd een consistente positieve associatie gevonden tussen sentiment en het FP-percentage. Sprekers gebruiken meer FPs wanneer zij een meer positief sentiment uiten. Dit effect is stabiel binnen sprekers over alle vier de parlementen, wat suggereert dat positieve communicatieve eisen de aarzeling vergroten, ongeacht de basisstijl van de spreker.
• Politieke oriëntatie: Er werd geen betrouwbare globale associatie gevonden tussen de gebruikelijke ideologische positie van een spreker en de FP-productie. Echter, binnen-spreker analyse onthulde dat in Kroatië en Polen sessies waarin de partijpolitieke affiliatie van een spreker rechterlijk georiënteerder was dan hun gebruikelijke baseline, geassocieerd waren met hogere FP-percentages. Dit effect was afwezig in Tsjechië en Servië.
• Machtsstatus: Oppositie-sprekers produceren globaal gezien minder FPs dan leden van de regeringscoalitie (IRR = 0,792). Dit effect was significant in Tsjechië en Kroatië. Opvallend genoeg vertoonde Servië een grensvallende positieve trend (oppositie die spreekt met meer FPs), wat wijst op unieke politieke dynamieken in die context.

Betekenis en Bijdragen
Het artikel claimt verschillende belangrijke bijdragen aan het veld van de computationele paralinguïstiek:

1. Schaal en Generaliseerbaarheid: Door bijna 4.000 uur aan spraak over vier talen te analyseren, toont deze studie aan dat veel effecten die in kleinere, enkelvoudige taalstudies worden gerapporteerd (met name met betrekking tot geslacht en leeftijd) niet universeel zijn, maar in plaats daarvan taal-specifiek of domeinafhankelijk zijn.
2. Methodologische Rigor: De toepassing van Mundlak-gecorrigeerde GEE-modellen biedt een robuust kader om stabiele sprekerseigenschappen te onderscheiden van variatie op het niveau van de uiting. De resultaten benadrukken dat de binnen-spreker component (variatie op het niveau van de toestand) vaak een sterkere voorspeller is voor FP-productie dan de tussen-spreker kenmerken, met name voor spraaksnelheid en sentiment.
3. Nieuwe Voorspellers: De studie vestigt sentiment als een consistente voorspeller van FP-percentages, een relatie die zelden onderzocht is in eerder kwantitatief werk. Het levert ook het eerste grootschalige kwantitatieve bewijs met betrekking tot de impact van politieke oriëntatie en machtsstatus op disfluentie, waarbij complexe, parlement-specifieke patronen worden onthuld in plaats van eenvoudige lineaire trends.
4. Domeinspecificiteit: De auteurs benadrukken dat hun bevindingen specifiek zijn voor het parlementaire domein. De omkering van geslachtseffecten in Zuid-Slavische parlementen en de specifieke modulatie van FP-percentages door machtsstatus suggereren dat formele, taakgerichte spraakgenres patronen die in informele conversatie worden waargenomen, kunnen neutraliseren of inverteren.

Het artikel concludeert dat transformer-geannoteerde, meertalige corpora essentieel zijn voor het begrijpen van FP-productie en dat voorzichtigheid geboden is bij het generaliseren van bevindingen uit kleinschalige studies naar bredere linguïstische of culturele contexten.