FinBloom: Knowledge Grounding Large Language Model with Real-time Financial Data

Het artikel introduceert FinBloom, een op real-time data gebaseerde financiële agent die door middel van een aangepast 7B-parameter taalmodel en een gespecialiseerd dataset complexe financiële vragen beantwoordt met actuele nieuws- en marktinformatie.

De kern

FinBloom: De Slimme Boekhouder met een Live Telefoon

Stel je voor dat je een zeer intelligente, maar ietwat verouderde boekhouder hebt. Deze boekhouder (een Large Language Model of LLM) heeft miljoenen boeken gelezen en kan prachtige zinnen maken, vragen beantwoorden en zelfs gedichten schrijven. Hij is slim, maar er is één groot probleem: zijn kennis stopt op een bepaald moment in de tijd.

Als je hem vandaag vraagt: "Wat is de koers van Apple nu?" of "Is er gisteren een nieuw wetenschappelijk nieuwsbericht over inflatie?", dan kijkt hij in zijn hoofd, haalt zijn schouders op en geeft een antwoord gebaseerd op oude, verouderde informatie. In de financiële wereld is dat gevaarlijk. Je wilt niet investeren op basis van nieuws van twee jaar geleden.

FinBloom is de oplossing voor dit probleem. Het is een slim systeem dat deze boekhouder koppelt aan een live telefoonlijn naar de echte wereld.

Hier is hoe het werkt, in drie simpele stappen:

1. De "FinBloom" Boekhouder (De Basis)

Eerst hebben de onderzoekers een speciale versie van de boekhouder gemaakt, genaamd FinBloom.

• Hoe? Ze hebben de basis-boekhouder (Bloom) laten lezen van 14 miljoen financiële nieuwsartikelen en 12 miljoen officiële bedrijfsrapporten.
• Het resultaat: Deze boekhouder spreekt nu vloeiend "financieel". Hij begrijpt termen als EBITDA, omzet en aandelenkoers alsof het zijn moedertaal is. Hij is niet meer een algemene slimme man, maar een gespecialiseerde financieel expert.

2. De "Financiële Agent" (De Vertaler)

Dit is het echte genie van het systeem. Stel, jij vraagt: "Is het een goed moment om in Tesla te investeren?"
De FinBloom-boekhouder kan niet zomaar naar het internet surfen. Hij heeft een tussenpersoon nodig: de Financiële Agent.

• Wat doet hij? Hij luistert naar jouw vraag en vertaalt die naar een precieze opdracht voor de database. In plaats van "Is Tesla goed?", zegt hij tegen de computer: "Haal de laatste 3 maanden aandelenkoersen, de winstcijfers en het laatste nieuws over Tesla op."
• De Analogie: Hij is als een tolk die jouw losse vraag omzet in een strakke bestelling voor een supermarkt. Hij weet precies welk product (data) je nodig hebt.

3. De Data Module (De Supermarkt)

Dit is de magazijnruimte waar alle live data ligt.

• Er zijn twee soorten schappen: één met tabellen (koersen, winstcijfers) en één met kranten (nieuwsberichten).
• De Agent haalt de juiste producten van de schappen en geeft ze aan de boekhouder.

Het Eindresultaat: Een Perfect Antwoord

Nu gebeurt het magische:

1. De Agent haalt de live data (bijvoorbeeld: "Tesla staat op $180 en er is gisteren slecht nieuws over batterijen").
2. Hij plakt deze informatie aan jouw vraag vast.
3. De FinBloom-boekhouder leest dit nieuwe, complete plaatje en geeft een antwoord dat actueel en gebaseerd op feiten is.

Waarom is dit zo belangrijk?
Zonder dit systeem zou de boekhouder zeggen: "Tesla is een groot bedrijf, investeren is misschien slim." (een vaag, oud antwoord).
Met FinBloom zegt hij: "Tesla staat nu op $180, maar gisteren was er slecht nieuws over batterijen. Gezien de huidige koers en het nieuws, is het misschien te riskant om nu te kopen."

Samenvattend:
FinBloom is als het geven van een live telefoon aan een zeer slimme, maar verouderde expert. Hij blijft even slim als altijd, maar hij kan nu ook kijken wat er nu gebeurt in de wereld. Hierdoor kunnen mensen snellere, betere en veiligere beslissingen nemen over geld, zonder dat ze zelf door bergen nieuws en cijfers hoeven te graven.

Technische samenvatting

Probleemstelling

Grote Taalmodellen (LLMs) zijn uitstekend in het genereren van mensachtige antwoorden, maar kampen met een fundamenteel tekort bij interactieve taken die toegang vereisen tot real-time informatie. In de financiële sector is dit een kritieke beperking: beslissingen moeten gebaseerd zijn op actuele nieuwsberichten, koersbewegingen en financiële rapportages.
De huidige "bevroren" (frozen) LLMs werken als statische systemen met kennis die stopt op het moment van training. Dit leidt tot:

1. Verouderde informatie: Antwoorden zijn gebaseerd op data die voor investeerders en analisten vaak waardeloos is.
2. Hoge kosten en latentie: Het voortdurend hertrainen of fine-tunen van modellen op snelle financiële datastromen is computergewijs onhaalbaar en te traag.
3. Beperkte RAG-effectiviteit: Traditionele Retrieval-Augmented Generation (RAG) systemen, die vaak werken met dichte vectorrepresentaties van tekst, zijn ongeschikt voor gestructureerde financiële data (tabellen, tijdreeksen, numerieke metrics). Het omzetten van tabellen naar tekst voor vectorzoekopdrachten introduceert fouten, redundantie en verlies van schema-relaties.

Methodologie

De auteurs introduceren een architectuur genaamd Financial Agent, die LLMs "knowledge-grounding" biedt zonder de modelgewichten van de hoofd-LLM continu aan te passen. Het systeem bestaat uit drie kerncomponenten:

1. Data Module:

   • Een dynamische opslaglaag die twee back-ends verenigt: een relationele database (PostgreSQL) voor gestructureerde tabulaire data (prijzen, financiële cijfers) en een documentopslag (Elasticsearch) voor nieuwsberichten.
   • In plaats van alles te embedden in een vectorruimte, gebruikt dit module schema-gealigneerde queryvoorspelling. De Financial Agent genereert een gestructureerde data-aanvraag (SQL-achtig) die direct wordt uitgevoerd op de relationele database voor exacte cel-waarden.
   • Voor nieuws wordt een gespecialiseerd model (FinRoBERTa) gebruikt voor semantische zoekopdrachten om relevante artikelen te filteren.

2. Financial Agent (FinBloom 7B):

   • Dit is een aangepast 7 miljard parameter LLM, gebaseerd op Bloom 7B.
   • Training: Het model is eerst voorgeïmplementerd (pre-trained) op een corpus van 14 miljoen financiële nieuwsartikelen (Reuters, DPA) en een steekproef van 12 miljoen SEC-filings.
   • Fine-tuning: Vervolgens is het model gefine-tuned op een nieuw dataset (Financial Context Dataset) om de rol van een agent te spelen. De taak van de agent is om een natuurlijke taalvraag van de gebruiker te analyseren, de benodigde data te identificeren (bedrijven, metrics, datums, gerelateerde metrics), en een gestructureerde aanvraag te genereren voor de Data Module.

3. Context Generatie en Antwoord:

   • De Data Module retourneert de exacte data en nieuws.
   • Deze data wordt omgezet in tekstuele context ($c$) en gekoppeld aan de oorspronkelijke vraag ($x$).
   • De verrijkte input $(c, x)$ wordt doorgegeven aan een grote, generieke LLM (zoals ChatGPT of GPT-4) voor het genereren van het uiteindelijke antwoord. Dit zorgt voor lage latentie omdat de zware LLM niet zelf hoeft te zoeken, maar alleen de context verwerkt.

Kernbijdragen

1. Financial Context Dataset: Een nieuw, openbaar dataset met 50.000 financiële vragen gekoppeld aan de vereiste context (bedrijven, metrics, datums en gestructureerde data-aanvragen). De dataset is gegenereerd via een template-methode gebaseerd op interviews met adviseurs en retail-investeerders.
2. FinBloom 7B: Een domeinspecifiek taalmodel dat is getraind op een enorme hoeveelheid financiële tekst (14M+ artikelen + SEC-filings). Dit model toont superieure prestaties op financiële benchmarks vergeleken met andere gespecialiseerde modellen.
3. FinBloom Financial Agent: Een gefine-tuned versie van FinBloom 7B die fungeert als de "brain" voor contextgeneratie. Het kan complexe vragen vertalen naar exacte data-opvragingen, waardoor hallucinaties worden verminderd en de nauwkeurigheid van real-time antwoorden wordt gewaarborgd.

Resultaten

• Benchmark Prestaties (FinBen): FinBloom 7B behaalde de hoogste gemiddelde F1-score (0.3464) op de FinBen-benchmark (een verzameling van 35 financiële datasets) vergeleken met concurrenten zoals FinMA, FinGPT en CFGPT. Het model presteerde goed op taken zoals sentimentanalyse, causale classificatie en credit scoring.
• Contextuele Nauwkeurigheid: Bij het testen op de eigen Financial Context Dataset (10.000 testvragen) behaalde de gefine-tunde FinBloom 7B aanzienlijk hogere scores (BLEU: 0.96, ROUGE-L: 0.97) dan het basis-Bloom 7B model. Dit bewijst dat de domeinspecifieke pre-training essentieel is voor het begrijpen van financiële context.
• Vergelijking met Web-toegang: In case-studies (bijv. het opvragen van kwartaalcijfers) faalde een standaard ChatGPT met webtoegang vaak door onnauwkeurige of geschatte data ("hallucinaties") of het niet kunnen vinden van gestructureerde tabellen. Het FinBloom-systeem leverde daarentegen exacte, getrokken data uit de database, wat leidde tot betrouwbare investeringsadviezen.

Betekenis en Toekomst

Dit paper biedt een praktische oplossing voor de integratie van LLMs in high-velocity domeinen zoals de financiële markt. Door de scheiding tussen de Data Module (voor exacte, real-time data) en de Generative LLM (voor redenering en taal), overkomt het systeem de beperkingen van statische modellen en de inefficiëntie van continue hertraining.

De aanpak maakt real-time financiële besluitvorming, algoritmische trading en geautomatiseerd advies haalbaar en betrouwbaar. De auteurs suggereren dat deze architectuur in de toekomst kan worden uitgebreid naar multi-agent systemen, bijvoorbeeld met integratie van video-analyse voor vergaderingen of nieuwsfeeds, wat de toegankelijkheid en personalisatie van financiële diensten verder zal vergroten.