FinTexTS: Financial Text-Paired Time-Series Dataset via Semantic-Based and Multi-Level Pairing

Dit paper introduceert FinTexTS, een nieuw groot dataset voor gepaarde financiële tekst en tijdreeksen dat gebruikmaakt van een semantisch en meer-niveau koppelingsframework om complexe marktinteracties beter vast te leggen dan bestaande methoden op basis van trefwoorden, wat leidt tot verbeterde voorspellingen van aandelenprijzen.

De kern

Stel je voor dat je probeert de koers van een aandeel te voorspellen, zoals die van NVIDIA of Apple. Vroeger keken analisten alleen naar de cijfers: de grafieken, de winst en de verliezen. Dat is alsof je probeert het weer te voorspellen door alleen naar de thermometer te kijken, zonder naar de lucht, de wind of de wolken te kijken.

In de financiële wereld is dat echter niet genoeg. De prijs van een aandeel wordt niet alleen bepaald door wat dat ene bedrijf doet, maar ook door wat zijn concurrenten doen, hoe de hele sector eruitziet, en zelfs door grote politieke beslissingen in het land.

Deze paper introduceert FinTexTS, een slimme nieuwe manier om tekst (nieuws) en tijdreeksen (aandelenkoersen) met elkaar te koppelen. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De "Woordzoek"-Methode is te Stomp

Tot nu toe maakten computers een koppeling tussen nieuws en aandelen door simpelweg te zoeken naar een naam. Als er "NVIDIA" in een nieuwsartikel stond, werd het gekoppeld.

• Het probleem: Stel je voor dat er een artikel staat over "de bouw van nieuwe datacenters voor kunstmatige intelligentie". NVIDIA wordt er niet bij genoemd, maar het is wel enorm belangrijk voor hen. De oude methode ziet dit niet.
• De analogie: Het is alsof je op een feestje alleen mensen aanspreekt die je bij hun voornaam noemt. Je mist de mensen die je kent, maar die je niet direct bij naam noemt, of die je via een vriend van een vriend kent.

2. De Oplossing: Een Slimme Matchmaker

De auteurs van deze paper hebben een nieuw systeem bedacht dat werkt als een slimme matchmaker in plaats van een simpele zoekmachine. Ze gebruiken twee krachtige hulpmiddelen:

A. De "Context-Bril" (Semantische Koppeling)

In plaats van alleen te zoeken naar namen, leest het systeem eerst het officiële jaarverslag (de SEC-filing) van een bedrijf. Dit is als het "dossier" van het bedrijf.

• Vervolgens kijkt het systeem naar nieuwsartikelen en vraagt zich af: "Past dit verhaal bij de situatie van dit bedrijf?"
• De analogie: Stel je voor dat je een detective bent. Je leest het dossier van een verdachte (het bedrijf). Als er een nieuwsbericht is over een inbraak in de buurt van een fabriek die dezelfde producten maakt, weet de detective dat dit relevant is, zelfs als de naam van de verdachte er niet in staat. Het systeem snapt de betekenis, niet alleen de woorden.

B. De "Lagen van Informatie" (Multi-Level Koppeling)

Financiële markten werken in lagen, net als een taart of een huis. Het systeem splitst het nieuws in vier lagen:

1. De Macro-laag (Het Dak): Grote wereldwijde dingen, zoals renteverhogingen door de centrale bank of oorlogen. Dit beïnvloedt iedereen.
2. De Sector-laag (De Verdieping): Wat gebeurt er in de hele IT-sector of de gezondheidszorg? Als de hele sector zakt, zakt je bedrijf ook mee.
3. De Gerelateerde Bedrijven-laag (De Buren): Wat doen de concurrenten of de leveranciers? Als een belangrijke leverancier in de problemen komt, heeft dat invloed op jouw bedrijf.
4. De Doelbedrijf-laag (De Woonkamer): Wat gebeurt er specifiek bij het bedrijf zelf?

De analogie: Stel je voor dat je de prijs van een huis wilt voorspellen.

• De Macro-laag is de economie van het hele land.
• De Sector-laag is de wijk waar het huis staat (is het een dure of goedkope wijk?).
• De Gerelateerde-laag is of de buren aan het verbouwen zijn (dat kan de waarde beïnvloeden).
• De Doellaag is de staat van het huis zelf.
  FinTexTS kijkt naar alle deze lagen tegelijk, in plaats van alleen naar het huis zelf.

3. Wat hebben ze gedaan?

Ze hebben een enorme database gemaakt genaamd FinTexTS.

• Ze hebben 5 jaar aan nieuws (ongeveer 1 miljoen artikelen) en aandelenkoersen van de 100 grootste bedrijven in de VS samengevoegd.
• Ze gebruikten geavanceerde AI (Large Language Models) om de nieuwsartikelen te lezen, te samenvatten en de juiste "laag" toe te kennen.
• Ze hebben getest of dit helpt bij het voorspellen van aandelen.

4. Het Resultaat: Beter Voorspellen

De tests toonden aan dat modellen die gebruikmaken van deze slimme koppeling veel beter presteren dan modellen die alleen kijken naar cijfers of die gebruikmaken van de oude "woordzoek"-methode.

• De conclusie: Door te kijken naar de betekenis van het nieuws en de verschillende lagen van invloed, krijgen de computers een veel duidelijker beeld van de werkelijkheid.

Samenvattend

Deze paper zegt eigenlijk: "Om de toekomst van een bedrijf te voorspellen, moet je niet alleen naar het bedrijf zelf kijken, maar ook naar de wereld om hen heen, en je moet begrijpen wat er echt wordt gezegd, niet alleen welke woorden er in staan."

Ze hebben een nieuwe, slimmere manier gevonden om die wereld om hen heen te begrijpen, wat leidt tot betere voorspellingen voor beleggers en onderzoekers.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "FinTexTS: Financial Text-Paired Time-Series Dataset via Semantic-Based and Multi-Level Pairing" in het Nederlands.

Probleemstelling

In de financiële sector zijn tijdreeksproblemen, zoals het voorspellen van aandelenkoersen, cruciaal. Recentelijk is er groeiende aandacht voor multimodale modellen die zowel numerieke tijdreeksdata als tekstuele informatie (bijv. nieuwsartikelen) combineren. Echter, het construeren van datasets die tekst en tijdreeksen correct koppelen, is zeer uitdagend vanwege de complexe interdependencies in financiële markten.

De bestaande methoden vertrouwen vaak op simpele trefwoord-matching (keyword-based matching) om nieuwsartikelen aan specifieke bedrijven te koppelen. Dit leidt tot twee fundamentele beperkingen:

1. Semantische onnauwkeurigheid: Artikelen die semantisch relevant zijn voor een bedrijf, maar waarin de bedrijfsnaam niet expliciet wordt genoemd (bijv. nieuws over de bouw van GPU-datacenters voor NVIDIA), worden over het hoofd gezien. Omgekeerd kunnen artikelen met de bedrijfsnaam wellicht weinig relevantie hebben.
2. Gebrek aan multi-level dynamiek: Aandelenkoersen worden beïnvloed door factoren op verschillende niveaus: macro-economisch (landelijk/globaal), sectoraal, gerelateerde bedrijven (concurrenten/partners) en het doelbedrijf zelf. Eenvoudige trefwoord-methoden kunnen deze verweven, multi-level effecten niet adequaat vastleggen.

Methodologie: Het FinTexTS Framework

De auteurs stellen een nieuw framework voor dat gebaseerd is op semantische koppeling en multi-level pairing. Het doel is het construeren van een dataset (FinTexTS) waarbij nieuwsartikelen op vier niveaus worden gekoppeld aan de aandelenkoers van een doelbedrijf op een specifieke datum.

Het framework bestaat uit vier hoofdcomponenten:

1. LLM-gebaseerde SEC-filering Parsing:

   • SEC-fileringen (officiële documenten van bedrijven) worden gebruikt om contextuele informatie over het doelbedrijf te extraheren.
   • Een Large Language Model (LLM) parseert deze documenten naar vijf specifieke categorieën: Overzicht & Producten, Strategie & Markten, Governance & Risico's, Financiële Informatie, en Recent Events & Catalysts.
   • Deze informatie dient als de "query" voor semantische zoekopdrachten en wordt voor dagelijks gebruik "forward-filled" (opgevuld) omdat fileringen niet dagelijks verschijnen.

2. LLM-gebaseerde Nieuwsclassificatie:

   • Nieuwsartikelen worden eerst ingedeeld in drie brede niveaus: Macro (landelijk/globaal), Sector (industrie-specifiek), en Bedrijfsniveau.
   • Binnen het sector-niveau worden artikelen verder geclassificeerd volgens de Global Industry Classification Standard (GICS).

3. Embedding-gebaseerde Nieuwskoppeling (Semantic Pairing):

   • In plaats van trefwoorden, wordt een fine-tuned embedding-model gebruikt.
   • Het model wordt getraind via contrastief leren zodat nieuwsartikelen uit dezelfde sector dichter bij elkaar in de vectorruimte liggen.
   • De geparseerde SEC-filering dient als query om de top-$N$ semantisch relevante nieuwsartikelen te vinden, zelfs als de bedrijfsnaam niet in de tekst staat.
   • Een tweede LLM-classificatiestap filtert deze resultaten in: Doelbedrijf-niveau, Gerelateerd Bedrijf-niveau (concurrenten/partners), en Irrelevant.

4. LLM-gebaseerde Nieuws Samenvatting:

   • Om redundantie en ruis te verminderen, worden de gekoppelde artikelen per niveau samengevat door een LLM.
   • De context (bijv. SEC-filering of sectordefinitie) wordt gebruikt om de LLM te instrueren om de belangrijkste gebeurteniscategorieën te identificeren en deze te samenvatten.

Dataset: FinTexTS

Met dit framework hebben de auteurs FinTexTS gebouwd:

• Omvang: Een dataset van 100 grote beursgenoteerde bedrijven (top 100 naar marktkapitalisatie) over een periode van 5 jaar (2019-2023).
• Data: Gekoppeld aan ongeveer 1 miljoen nieuwsartikelen.
• Structuur: Elke datapunt bevat de aandelenkoers en tekstuele data op vier niveaus: Macro, Sector, Gerelateerd Bedrijf, en Doelbedrijf.

Resultaten en Experimenten

De auteurs hebben de effectiviteit getest via een pilot-studie voor aandelenkoersvoorspelling (forecasting) met 12 verschillende state-of-the-art tijdreeksmodellen (zoals Transformer, PatchTST, iTransformer).

1. Semantische vs. Trefwoord-koppeling:

   • De semantische methode presteerde consistent beter dan de traditionele trefwoord-methode (zoals gebruikt in FNSPID) en een baseline zonder tekst.
   • De verbetering wordt toegeschreven aan het verminderen van ruis (irrelevante artikelen) en het vangen van contextuele relevantie zonder expliciete naamvermelding.

2. Multi-Level Effect:

   • Experimenten toonden aan dat het toevoegen van tekstuele informatie op verschillende niveaus (van macro naar specifiek bedrijf) de voorspellingsscore (gemeten in MSE en MAE) stapsgewijs verbetert.
   • Dit bevestigt dat informatie op verschillende schaalniveaus complementaire signalen biedt voor voorspellingen.

3. Fine-tuning van Embeddings:

   • Het gebruik van een sector-specifiek fine-tuned embedding-model resulteerde in een hogere "hit-rate" (kans dat relevant nieuws wordt gevonden) vergeleken met een basis-model.

4. Propriëtaire Data:

   • Toepassing van het framework op een proprietary, zorgvuldig samengestelde nieuwsbron (LSEG MRN) leverde nog betere resultaten op dan openbare nieuwsbronnen, wat aantoont dat de kwaliteit van de tekstbron essentieel is.

Bijdragen en Significantie

De belangrijkste bijdragen van dit werk zijn:

• Identificatie van beperkingen: Het inzicht dat trefwoord-gebaseerde methoden falen in het vangen van complexe, semantische en multi-level marktdynamieken.
• Nieuw Framework: De ontwikkeling van een semantisch en multi-level koppelingsframework dat SEC-fileringen, LLM's en fine-tuned embeddings combineert.
• FinTexTS Dataset: De publicatie van een grote, schaalbare dataset die beschikbaar is voor de gemeenschap (via Hugging Face en GitHub), wat een belangrijke stap is voor multimodaal financieel onderzoek.
• Validatie: Het aantonen dat deze geavanceerde koppelingstrategieën leiden tot superieure prestaties in aandelenvoorspelling ten opzichte van bestaande methoden.

Conclusie:
FinTexTS biedt een robuuste oplossing voor het probleem van tekst-tijdreekskoppeling in de financiële sector. Door te bewegen van simpele trefwoorden naar semantisch begrip en multi-level context, stelt het onderzoekers in staat om realistischere en nauwkeurigere multimodale modellen te trainen voor financiële voorspellingen. De dataset en het framework zijn publiek beschikbaar, wat de basis legt voor toekomstig onderzoek in financieel AI.