📊 statistics

From Noisy News Sentiment Scores to Interpretable Temporal Dynamics: A Bayesian State-Space Model

Dit artikel introduceert een Bayesiaans toestandsruimtemodel dat ruisgevoelige, variabel dekkende wekelijkse sentiment scores van nieuws transformeert naar vloeiende, interpreteerbare temporele dynamiek door de observatieonzekerheid expliciet te schalen op basis van het aantal onderliggende artikelen, waardoor onderscheid wordt gemaakt tussen werkelijke sentimentverschuivingen en artefacten van gegevensbeschikbaarheid.

Oorspronkelijke auteurs: Ian Carbó Casals

Gepubliceerd 2026-01-26

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ian Carbó Casals

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert te luisteren naar een verre radiozender die een doorlopend lied afspeelt over hoe mensen zich voelen (de "stemming"). Soms is het signaal kristalhelder omdat duizenden mensen tegelijkertijd meezingen. Andere keren zit het signaal vol met statische ruis omdat er slechts een paar mensen aan het zingen zijn, of omdat ze ver weg zijn.

Dit artikel gaat over het bouwen van een betere radio-ontvanger om dat "stemmingslied" duidelijk te horen, zelfs wanneer het signaal zwak of ruisachtig is.

Het Probleem: De "Statische Ruis" in het Nieuws

Elke week lezen computers duizenden nieuwsartikelen en geven ze een score van -1 (zeer slechte stemming) tot +1 (zeer goede stemming). Als je simpelweg de gemiddelde scores per week met elkaar vergelijkt, krijg je een grillige, schokkerige lijn.

Waarom is deze zo schokkerig?

Echte Stemmingsveranderingen: Soms worden mensen ook echt bozer of gelukkiger.
Het "Groepsgrootte"-probleem: Soms zijn er honderden artikelen over een onderwerp (zoals "Economie"). Andere keren zijn er slechts drie.
- Als je 1.000 artikelen hebt, is je gemiddelde zeer betrouwbaar.
- Als je 3 artikelen hebt, is je gemiddelde een gok. Het kan lijken op een enorme verandering in stemming, maar dat komt alleen maar omdat de steekproefomvang minuscuul was.

Huidige methoden behandelen een week met 3 artikelen vaak hetzelfde als een week met 1.000 artikelen. Dit haalt echte veranderingen in de stemming door elkaar met de "statische ruis" die wordt veroorzaakt door te weinig data.

De Oplossing: Het "Slimme Filter"

De auteur, Ian Carbó Casals, heeft een Bayesiaans State-Space Model gebouwd. In gewone taal is dit een "Slim Filter" dat twee dingen tegelijk doet:

Het raadt wat de werkelijke onderliggende stemming is (de "Latente Toestand").
Het bepaalt hoeveel vertrouwen het moet hebben in het nieuws dat je op dit moment leest, gebaseerd op het aantal artikelen dat er is.

De Analogie van het "Vertrouwensgewicht":
Stel je voor dat je probeert te raden wat de temperatuur buiten is.

Scenario A: Je hebt 100 thermometers die allemaal 21°C aangeven. Je bent zeer zeker dat de temperatuur 21°C is.
Scenario B: Je hebt slechts één thermometer, en die geeft 21°C aan. Je bent minder zeker. Misschien is hij kapot, of misschien is het een toevalstreffer.

Dit model gebruikt een "Vertrouwensgewicht" (genoemd $n_{tj}$ in het artikel).

Hoog Gewicht (Veel artikelen): Het model zegt: "Oké, het nieuws zegt dat de stemming positief is. Omdat er zoveel artikelen zijn, vertrouw ik dit getal en laat ik het mijn schatting van de 'werkelijke stemming' dichter naar het nieuws toe trekken."
Laag Gewicht (Weinig artikelen): Het model zegt: "Het nieuws zegt dat de stemming positief is, maar er zijn slechts een paar artikelen. Dit kan ruis zijn. Ik vertrouw de trend van de afgelopen paar weken meer dan deze enkele week aan data, en ik geef toe dat ik niet 100% zeker ben."

Hoe het Werkt (De Motor)

Het model behandelt de "Ware Stemming" als een verborgen personage dat over een pad loopt.

Het Pad: De stemming verandert niet wild; het beweegt geleidelijk over tijd (zoals een persoon die wandelt, niet zoals iemand die teleporteert).
De Rommelige Aanwijzingen: De wekelijkse nieuwsscores zijn als wazige snapshots van die persoon.
De Magie: Het model kijkt naar de "wazigheid" van de snapshot. Als de snapshot wazig is (weinig artikelen), negeert het model de wazigheid en neemt het aan dat de persoon nog steeds langs zijn gebruikelijke pad wandelt. Als de snapshot scherp is (veel artikelen), past het model het pad aan om overeen te komen met de nieuwe foto.

Wat Ze Hebben Gevonden

De auteur testte dit op nieuws over zes verschillende onderwerpen: Economie, Technologie, Geopolitiek, Energie, Samenleving en Bedrijfsvoering.

De "Ware Stemming" Beweegt Langzaam: Of het nu over geld of oorlog gaat, de onderliggende stemming heeft de neiging om geleidelijk te veranderen. Het springt niet elke week heen en weer.
De Ruis is Verschillend: Het grootste verschil tussen de onderwerpen was niet hoe de stemming veranderde, maar hoe ruisachtig het nieuws was.
- Sommige onderwerpen (zoals Economie) hebben meestal veel artikelen, waardoor de "Ware Stemming" gemakkelijk te zien is.
- Andere onderwerpen hebben soms heel weinig artikelen, waardoor de "Ware Stemming" moeilijker vast te stellen is.
Het Resultaat: Het model produceerde een vloeiende, schone lijn voor de "Ware Stemming" voor elk onderwerp, compleet met een "vage zone" (onzekerheid) rondom die lijn. Wanneer er weinig artikelen waren, werd de vage zone breder, waarmee eerlijk werd toegegeven: "We weten het op dit moment niet zeker."

Waarom Dit Belangrijk Is

Dit gaat niet over het voorspellen van de aandelenmarkt of het vertellen je wat je moet kopen. Het gaat over beter luisteren.

Als je een onderzoeker of een monitor bent die de publieke opinie probeert te begrijpen, zorgt dit hulpmiddel ervoor dat je niet in paniek raakt wanneer een week heel weinig nieuws bevat. Het vertelt je: "Die grote sprong die je ziet? Dat komt waarschijnlijk alleen maar doordat we die week niet genoeg data hadden, en niet omdat de wereld plotseling veranderd is."

Het verandert een luidruchtig, grillig radiosignaal in een helder, gestaag lied, terwijl het eerlijk aangeeft wanneer het signaal te zwak is om zeker te zijn.

Technische Samenvatting: Van Ruisende Nieuws-sentimentscores naar Interpreteerbare Temporele Dynamiek

Probleemstelling
Tekstgebaseerde sentimentindicatoren worden breed ingezet om het publieke en marktgevoel te monitoren; echter zijn wekelijkse geaggregeerde sentimentreeksen inherent ruisend. Een primaire bron van deze ruis is de temporele en categorische variabiliteit in het volume van relevante nieuwsartikelen. Sommige wekelijkse gemiddelden zijn gebaseerd op honderden artikelen, terwijl andere gebaseerd zijn op slechts enkele. Bestaande benaderingen schieten vaak tekort in het expliciet rekening houden met deze fluctuaties in databeschikbaarheid bij het meten van onzekerheid. Bijgevolg confunderen standaard aggregatiemethoden werkelijke verschuivingen in sentiment met veranderingen in de betrouwbaarheid van de data. Dit probleem is cruciaal omdat het gebruik van door AI gegenereerde variabelen als grondwaarheid in econometrische analyses, zonder rekening te houden met meetfouten, kan leiden tot vertekende schattingen en ongeldige gevolgtrekkingen. Bovits benadrukt recente literatuur dat onzekerheidskwantificering essentieel is om AI-signalen betrouwbaar te maken voor financiële besluitvorming.

Methodologie
Het artikel stelt een hiërarchisch Bayesiaans state-space model voor, ontworpen om geaggregeerd nieuws-sentiment te transformeren naar een gladgestreken tijdreeks met een gefundeerde onzekerheidskwantificering.

Dataverwerking: Nieuwsartikelen worden verzameld en gescoord met behulp van vooraf getrainde NLP-modellen. FinBERT wordt gebruikt om sentimentscores ( $S_i \in [-1, 1]$ ) te genereren, en een zero-shot classificatiemodel (bart-large-mnli) wijst relevantiescores ( $C_{ij}$ ) toe aan vooraf gedefinieerde thematische categorieën. Artikelen met een relevantiescore onder de drempelwaarde van 0,25 worden eruit gefilterd.
Aggregatie: Voor elk tijdsvenster $t$ en elke categorie $j$ wordt een geaggregeerde sentimentscore ( $y_{tj}$ ) berekend als een gewogen gemiddelde van artikel-niveau scores, waarbij de gewichten de categorie-relevantiescores zijn.
Latente Toestandsdynamiek: Het model veronderstelt een niet-geobserveerd latent sentimentproces ( $x_{tj}$ ) dat over de tijd evolueert. Dit proces wordt gemodelleerd als een autoregressief proces van de eerste orde (AR(1)) rond een langetermijngemiddelde ( $\mu_j$ ), gestuurd door een persistentieparameter ( $\theta_j$ ) en een latente innovatieschaal ( $\sigma_{\eta j}$ ).
Observatiemodel en Effectief Gewicht: De geobserveerde sentimentwaarde $y_{tj}$ $y_{t j}$ wordt beschouwd als een ruisende meting van de latente toestand $x_{tj}$ $x_{t j}$ . De kerninnovatie ligt in de observatieruis-term, die wordt geschaald door een "effectief informatiegewicht" ( $n_{tj}$ $n_{t j}$ ).
- $n_{tj}$ wordt gedefinieerd als de som van de categorie-relevantiescores voor alle artikelen in een gegeven venster.
- De observatievariantie wordt gemodelleerd als $\sigma_j^2 / n_{tj}$ .
- Mechanisme: Wanneer $n_{tj}$ hoog is (hoge dekking), is de observatieruis klein en wordt de latente toestand sterk verankerd aan de geobserveerde data. Wanneer $n_{tj}$ laag is (gespreide dekking), neemt de onzekerheid toe en vertrouwt het model zwaarder op de latente temporele dynamiek om de toestand af te leiden.
Hiërarchische Structuur: Om de robuustheid te verbeteren, met name voor categorieën met schaarse data, maakt het model gebruik van hiërarchische priors. Dit maakt het mogelijk om categorie-specifieke parameters (persistentie, innovatie en observatieruis) te gebruiken terwijl informatie tussen categorieën wordt gedeeld via hyperpriors.
Inferentie: Posteriore verdelingen worden geschat met behulp van Markov Chain Monte Carlo (MCMC)-methoden, geïmplementeerd in JAGS.

Belangrijkste Bijdragen

Informatiedichtheid-geschaalde Ruis: De auteurs introduceren een Bayesiaans state-space model waarbij de observatieruis expliciet wordt geschaald door een observeerbare, datagedreven maatstaf voor informatiedichtheid ( $n_{tj}$ ). Dit koppelt databeschikbaarheid direct aan meetonzekerheid, waardoor de noodzaak vervalt om tijdvariërende ruis af te leiden via generieke latente volatiliteit.
Hiërarchische Robuustheid: Het framework maakt gebruik van een hiërarchische structuur om informatie tussen meerdere thematische categorieën te delen. Deze benadering verbetert de schattingsstabiliteit voor categorieën met minder berichten, terwijl het nog steeds categorie-specifiek gedrag toelaat.
Onzekerheidbewust Framework: Het model biedt volledige posteriore verdelingen voor latente toestanden en parameters, wat het rapporteren van betrouwbaarheidsintervallen mogelijk maakt. Dit faciliteert een gefundeerde aanpak voor het monitoren van sentimentdynamiek waarbij onzekerheid wordt gekwantificeerd in plaats van genegeerd.

Resultaten
Empirische analyse werd uitgevoerd op een dataset van ongeveer 9.918 nieuwsartikelen verspreid over de periode van eind 2023 tot eind 2025, gecategoriseerd in zes thematische groepen.

Parameterinferentie: De posteriore analyse laat zien dat de persistentieparameter ( $\theta_j$ ) en de latente innovatieschaal ( $\sigma_{\eta j}$ ) breed genomen vergelijkbaar zijn over de categorieën. De verschillen tussen een volledig gepoolde model en het hiërarchische model zijn relatief klein voor deze parameters, wat suggereert dat temporele persistentie en korte-termijn volatiliteit gedeelde kenmerken zijn over de categorieën heen.
Heterogeniteit in Observatieruis: In tegen plaats vertoont de observatieruisparameter ( $\sigma_j$ ) significante variatie tussen categorieën. Dit geeft aan dat de betrouwbaarheid van het geaggregeerde sentiment als proxy voor de latente toestand varieert per onderwerp, waarschijnlijk door verschillen in categorie-ambiguïteit of variabiliteit in nieuwscontent.
Modelvalidatie: Een vergelijking tussen een heteroscedastisch model (waarbij de variantie schaalt met $1/n_{tj}$ ) en een homoscedastisch model (constante variantie) bevestigt de kernveronderstelling van het model. De heteroscedastische specificatie toont aan dat de posteriore onzekerheid (intervalbreedte) mechanisch toeneemt naarmate de informatiedichtheid afneemt, een relatie die statistisch significant is en sterker is dan in de homoscedastische variant.
Latente versus Geobserveerde Dynamiek: De schattingen van de latente toestand ( $x_{tj}$ ) bieden een gladdere traject dan de ruwe geaggregeerde scores ( $y_{tj}$ ). Het model filtert effectief kortstondige fluctuaties weg, met name tijdens perioden van schaarse dekking, waardoor signaal van meetruis wordt onderscheiden.

Betekenis en Claims
Het artikel positioneert dit framework primair als een instrument voor beschrijvende monitoring in plaats van voorspelling. De auteurs beweren dat door de meetbetrouwbaarheid expliciet te modelleren op basis van de beschikbaarheid van informatie, het framework een meer interpreteerbare en stabiele representatie van de sentimentdynamiek biedt.

De betekenis van het werk ligt in het vermogen om:

Echte sentimentveranderingen te scheiden van artefacten veroorzaakt door variërende datavolumes.
Betrouwbaarheidsintervallen te bieden die de werkelijke informatiedichtheid van de onderliggende tekstbronnen reflecteren.
Een generaliseerbare aanpak te bieden voor elke tekstgebaseerde sentimentanalyse waarbij de beschikbaarheid van informatie in de loop van de tijd fluctueert (bijv. sociale media, berichtendiensten of nieuwsfeeds).

De auteurs hanteren een bescheiden reikwijdte en erkennen beperkingen zoals de arbitraire aard van de relevantiedrempel, de afhankelijkheid van specifieke NLP-modellen en de vereenvoudigde AR(1)-dynamiek die voor parsimonie is gekozen. Zij claimen geen superieure voorspellende nauwkeurigheid, maar benadrukken de waarde van onzekerheidskwantificering voor betrouwbare downstream-analyse en besluitvorming.