SenseAI: A Human-in-the-Loop Dataset for RLHF-Aligned Financial Sentiment Reasoning

Dit paper introduceert SenseAI, een door mensen gevalideerde dataset voor financiële sentimentanalyse die volledige redeneerketens en marktuitkomsten bevat om Large Language Models via Reinforcement Learning from Human Feedback (RLHF) effectiever en betrouwbaarder te maken.

De kern

Stel je voor dat je een zeer intelligente, maar nog jonge stagiair hebt die alles over de wereld weet, maar nog nooit in een bank heeft gewerkt. Je noemt hem SenseAI.

Deze paper (wetenschappelijk artikel) introduceert een speciaal "trainingsboek" voor deze stagiair, zodat hij niet alleen goed kan praten, maar ook slim kan denken over geld en beurzen.

Hier is de uitleg in gewone taal, met een paar leuke vergelijkingen:

1. Het Probleem: De "Stagiair" die te voorzichtig is

Tot nu toe leerden we computers over geld met oude boeken (zoals FinancialPhraseBank). Die boeken zeggen alleen: "Dit nieuws is goed" of "Dit nieuws is slecht".

Maar in de echte wereld is het veel ingewikkelder. Een nieuwsbericht kan klinken als "goed", maar door een klein woordje als "toch" of "ondanks" wordt het eigenlijk "een beetje goed".

• De analogie: Stel je voor dat de stagiair een kompas heeft dat altijd naar het noorden wijst. Maar in de financiële wereld is "noorden" niet altijd "boven". Soms is "een beetje boven" net zo belangrijk als "helemaal boven". De oude boeken leerden de computer alleen "boven" of "onder", maar niet de nuances.

2. De Oplossing: SenseAI (De "Meester-Leraar")

SenseAI is geen gewoon boekje met antwoorden. Het is een live trainingsprogramma met een menselijke leraar (een expert in financiën) die elke dag meekijkt.

Het werkt zo:

1. De computer leest een nieuwsbericht en zegt: "Ik denk dat dit 'een beetje positief' is, met 65% zekerheid."
2. De menselijke leraar kijkt mee en zegt: "Nee, wacht even. Door die zin 'ondanks de crisis' is het eigenlijk 'positief', niet 'een beetje positief'. En je bent veel te onzeker."
3. De computer schrijft dit op: "Ah, ik heb een foutje gemaakt. De reden was X, en de mens heeft het gecorrigeerd naar Y."

Dit proces heet Human-in-the-Loop (Mens in de Loopt). Het is alsof je een kind leert fietsen: je loopt naast hem, grijpt het stuur als hij wankelt, en vertelt hem waarom hij wankelde, niet alleen dat hij viel.

3. Wat hebben ze ontdekt? (De 6 verrassende feiten)

Door deze training hebben ze 6 interessante dingen ontdekt over hoe deze AI's denken:

• De "Twijfel-Geest": De AI is bang om te kiezen. Als er een sterk positief nieuwsbericht is, zegt de AI vaak: "Het is misschien een beetje positief." Hij is te voorzichtig.
  • Vergelijking: Het is alsof iemand die een goed doel heeft, zegt: "Ik heb misschien wel een beetje geluk gehad," in plaats van "Ik heb gewonnen!"
• De "Valse Zekerheid": De AI zegt vaak: "Ik ben 70% zeker." Maar dat betekent niets! Soms is hij 70% zeker en heeft hij het helemaal mis.
  • Vergelijking: Het is alsof een weerbericht zegt: "Ik ben 70% zeker dat het regent," terwijl het de hele dag droog blijft. Je kunt die zekerheid niet vertrouwen.
• De "Geheime Gedachten" (Latente Drift): De AI leest een nieuwsbericht over een bedrijf, maar gebruikt zijn geheugen over hoe dat bedrijf vroeger deed, in plaats van alleen naar het huidige nieuws te kijken.
  • Vergelijking: Je vraagt iemand: "Hoe gaat het met Jan vandaag?" En die persoon antwoordt: "Jan was altijd een slechte sporter, dus waarschijnlijk gaat het slecht." Terwijl Jan vandaag juist een gouden medaille heeft gewonnen. De AI "hallucineert" met oude informatie.
• De "Toekomst-Visioen" (Forward Projection): De AI begint te raden wat er straks gaat gebeuren, terwijl het nieuws alleen zegt wat er nu is.
  • Vergelijking: Je leest dat een bedrijf een nieuw product lanceert. De AI zegt: "Dit product zal de wereld veroveren!" Terwijl het nieuws alleen zegt: "Het product is gelanceerd." De AI verzint de toekomst.
• Het "Gouden Middenpad" (The Goldilocks Zone): Dit is het belangrijkste! De AI is niet stom (hij maakt geen enorme fouten), maar hij is ook niet perfect. Hij maakt kleine, voorspelbare foutjes.
  • Vergelijking: Het is alsof een schutter die altijd net naast de roos schiet, maar nooit in de andere kamer. Dat is perfect om te trainen! Je hoeft niet van nul te beginnen, je hoeft alleen die kleine afwijzing te corrigeren.
• De "Verbetering": Als je de AI een nieuwere versie geeft (van GPT-5.1 naar 5.2), worden de grote fouten minder, maar blijft het kleine "twijfel-probleem" bestaan.

4. Waarom is dit belangrijk voor de echte wereld?

Bedrijven willen nu AI's gebruiken om automatisch te handelen, beleggingsadvies te geven en risico's te beheren.

• Als een AI denkt dat een bedrijf "een beetje goed" presteert, terwijl het "heel goed" is, kan dat miljoenen kosten.
• Met SenseAI leren we de AI om niet alleen het antwoord te geven, maar ook de redenatie te begrijpen. Het is het verschil tussen een robot die een antwoord uit een lijstje plukt, en een echte analist die nadenkt.

Conclusie

Deze paper zegt eigenlijk: "Stop met het geven van simpele antwoorden aan AI's. Geef ze een trainingsboek vol met menselijke correcties, redeneringen en echte marktdata. Dan worden ze niet alleen slimmer, maar ook betrouwbaarder voor de zware klus: geld verdienen."

Het is een uitnodiging aan bedrijven en onderzoekers om samen te werken aan deze "SenseAI" trainingsmethode, zodat de financiële AI's van de toekomst net zo slim worden als de beste menselijke analisten.

Technische samenvatting

Titel: SenseAI: Een Human-in-the-Loop Dataset voor RLHF-uitgelijnde Financiële Sentimentredenering

Auteur: Berny Kabalisa (RizqSpark | SenseAI)
Datum: April 2026

---

1. Het Probleem

Grote Taalmodellen (LLMs) presteren uitstekend in algemene taken, maar hun toepassing in hoog-risico financiële omgevingen blijft beperkt door fundamentele structurele tekortkomingen in bestaande datasets.

• Gebrek aan redeneringscontext: Bestaande benchmarks zoals FinancialPhraseBank (2014) bevatten alleen sentimentlabels (positief/negatief/neutraal) zonder inzicht in hoe een expert tot die conclusie komt. Ze vangen het "wat", niet het "hoe".
• Ontbrekende RLHF-uitlijning: Deze datasets zijn niet ontworpen voor Reinforcement Learning from Human Feedback (RLHF). Ze missen cruciale componenten zoals menselijke correctiesignalen, redeneringsketens (Chain-of-Thought) en validatie door marktomgeving.
• Financiële complexiteit: Financiële taal is vaak onderstreept, contextafhankelijk en heeft directe monetaire gevolgen bij misclassificatie. Algemene modellen vertonen systematische fouten in dit domein die niet zichtbaar zijn in standaard benchmarks.

2. Methodologie

SenseAI is een continu groeiende, proprietaire dataset die is opgebouwd rond een Human-in-the-Loop (HITL) proces.

• Dataverzameling:
  • Bronnen: Financiële nieuwsberichten over 40 Amerikaanse beursgenoteerde bedrijven (o.a. tech, finance, healthcare) en 13 categorieën.
  • Proces: Een LLM genereert vier outputs per nieuwsitem: een samenvatting, een sentimentclassificatie (5 categorieën: van Bullish tot Bearish), een volledige redeneringsketen (Chain-of-Thought) en een betrouwbaarheidsscore.
  • Validatie: Een menselijke financiële expert (met een achtergrond in Finance & Investments) evalueert elke output. Waar het AI-oordeel afwijkt, wordt een correctie aangebracht en het type correctie geregistreerd.
• Datastructuur (Schema):
  Elk datapunt bevat 13 velden, waaronder:
  • Ticker, tijdstempel, AI-sentiment, AI-redenering, AI-betrouwbaarheidsscore.
  • HITL-gecorrigeerd: Een vlag of er een correctie nodig was.
  • Menselijk sentiment: De gecorrigeerde label.
  • Edit Type: Ernst van de correctie (Categorie 0: geen correctie, 1: minor, 2: moderat, 3: volledige omkering).
  • Marktomgeving: De daadwerkelijke aandelenkoers 4 uur na classificatie (objectieve validatie).
• Kwaliteitsborging:
  • Een zelfconsistentie-testprotocol waarbij de expert oude labels opnieuw beoordeelt zonder verwijzing naar het origineel, met een streefwaarde van 90% consistentie.

3. Belangrijkste Bijdragen

1. De SenseAI Dataset: De eerste continu verzamelde, HITL-gevalideerde corpus voor financieel sentiment, verrijkt met AI-redeneringsketens, expertcorrecties, betrouwbaarheidsscores en marktuitkomstvalidatie.
2. RLHF-Structurale Uitlijning: De dataset voldoet aan de drie kernvereisten voor RLHF:
   • Menselijke voorkeurssignalen (welke output is beter?).
   • Correctieannotaties (wat is de juiste output?).
   • Redeneringscontext (waarom is de AI fout?).
3. Empirische Analyse: Het paper presenteert zes nieuwe bevindingen over het gedrag van LLMs in financiële redenering, die alleen zichtbaar zijn dankzij de Chain-of-Thought data.
4. Commerciële Toepassing: Een kader voor het gebruik van deze data in enterprise AI-agents en een uitnodiging tot samenwerking voor fine-tuning en licentie.

4. Resultaten en Empirische Bevindingen

Op basis van 1.439 gelabelde datapunten (verzameld tussen dec 2024 en maart 2026) worden zes kernbevindingen gepresenteerd:

1. Sentiment Hypersensitiviteit voor Taalkwalificatoren: Modellen neigen sterk naar gematigde, "gehedged" antwoorden (bijv. "Iets Bullish" in plaats van "Bullish") zelfs bij sterke signaaltekens. Dit komt door een overgevoeligheid voor taalnuances (bijv. "ondanks marktomstandigheden").
2. Systematische Over-hedging van Betrouwbaarheid: De AI geeft consistent scores in het bereik 60-69% (71% van de data), ongeacht de duidelijkheid van het nieuws. Er is geen statistisch significant verband tussen de zelfgerapporteerde betrouwbaarheid en de daadwerkelijke nauwkeurigheid. Hoge scores voorspellen geen betere prestaties.
3. Latente Redeneringsdrift (Latent Reasoning Drift): De AI gebruikt interne kennis over het bedrijf en de markt (geleerd tijdens pre-training) om sentiment te bepalen, zelfs als deze informatie niet in de specifieke nieuwsfeed staat. Dit is een vorm van "vervuiling" die alleen zichtbaar is via redeneringsketens.
4. De "Goldilocks Zone" (Gouden Zone): Ongeveer 50% van de AI-classificaties vereist een menselijke correctie, maar bijna allemaal zijn dit minor correcties (Categorie 1). Er zijn geen volledige omkeringen (Categorie 3). Dit betekent dat het model niet fundamenteel fout zit, maar systematisch te voorzichtig is. Dit is de ideale zone voor RLHF-finetuning.
5. Forward Projection: De AI voegt vaak aannames over toekomstige gebeurtenissen toe die niet in de bron tekst staan, wat leidt tot speculatieve redenering in plaats van gebaseerde analyse.
6. Modelversie-effecten: De overstap naar nieuwere modellen (GPT-5.2) vermindert zware correcties (Categorie 2), maar de "Goldilocks Zone" van lichte correcties blijft bestaan. SenseAI fungeert dus als een levend instrument om modelverbeteringen te tracken.

5. Betekenis en Implicaties

• Voor Onderzoek: SenseAI bewijst dat de kwaliteit van data (diepte, redenering, correcties) belangrijker is dan pure schaal voor RLHF. Het biedt inzicht in waarom modellen falen, niet alleen dat ze falen.
• Voor Regulering: De bevinding over "Latent Reasoning Drift" heeft grote implicaties voor compliance. Financiële regelgevers (SEC, FCA) eisen dat AI-systemen uitlegbaar en gebaseerd zijn op de specifieke input. SenseAI helpt dit probleem te meten en op te lossen.
• Voor Enterprise Deployments: De huidige onbetrouwbare betrouwbaarheidsscores maken automatische routing (waarbij hoge scores automatisch worden verwerkt) riskant. Fine-tuning op SenseAI-data kan deze kalibratie verbeteren.
• Commercieel: De dataset is uniek en moeilijk te repliceren vanwege de noodzaak aan expertkennis en continue verzameling. Het biedt een sterke basis voor het bouwen van nauwkeurige financiële AI-agents voor trading, risicomanagement en compliance-monitoring.

Conclusie: SenseAI vult een kritieke lacune in de financiële NLP door een dataset te bieden die specifiek is ontworpen om LLMs te leren redeneren in plaats van alleen labels te voorspellen, waardoor ze geschikt worden voor inzet in hoog-risico financiële omgevingen.