Integrating Transformer-Derived Sentiment Signals with Technical Indicators for Emerging Market Direction Prediction: A NIFTY 50 Study

Technische Samenvatting: Integratie van Transformer-afgeleide Sentimentsignalen met Technische Indicatoren voor het Voorspellen van de Richting van Opkomende Markten

Probleemstelling
De voorspelling van financiële markten blijft uitdagend vanwege de beperkingen van bestaande transformer-modellen, die vaak neutraal sentiment over het hoofd zien en er niet in slagen domeinspecifieke lexiconen te integreren. Terwijl momentum-gebaseerde technische indicatoren (zoals RSI, MACD) prijspatronen detecteren, zijn deze reactief en negeren ze het sentiment dat door nieuws wordt gegenereerd. Bovendien leunt eerder onderzoek in de financiële Natural Language Processing (NLP) vaak op binaire classificatie (waarbij neutrale klassen worden uitgesloten), mist de integratie van domeinkennis, en slaagt er vaak niet in om formeel statistisch bewijs te leveren dat sentiment aan aandelenprijzen koppelt, met name binnen opkomende markten zoals de NIFTY 50.

Methodologie
De studie stelt een hybride tweefasig framework voor dat de kloof tussen transformer-gebaseerde sentimentanalyse en technische marktindicatoren overbrugt.

• Fase A: Hybride Sentimentclassificatie

  • Architectuur: Een aangepast DeBERTa-v3 model wordt ingezet, verbeterd met een dual-pooling encoder (het concateneren van de CLS-token en gemiddelde token-embeddings) en een gated lexicon fusiemechanisme. De lexicon fusie integreert 14 scalaire kenmerken afgeleid van een financieel lexicon (inclusief tellingen van positieve, negatieve, opwaartse, neerwaartse, ontkenning en onzekerheidstermen).
  • Trainingsmethoden: Het model maakt gebruik van Stochastic Weight Averaging (SWA) om te convergeren naar vlakkere verliesminima voor een betere generalisatie. Test-Time Augmentation (TTA) op basis van variaties in hoofdlettergebruik wordt toegepast om de predictievariantie te verminderen.
  • Trainingsdata: Het model wordt gefinetuned op de SEntFiN-dataset (14.404 samples), die entiteitsniveau-annotaties bevat voor positieve, negatieve en neutrale sentimenten.
  • Inferentie: Het getrainde model verwerkt 198.730 financiële koppen uit Indiase en internationale bronnen (januari 2017–april 2021) om een Daily Sentiment Index (DSI) te genereren. Vier indices worden geconstrueerd: een eenvoudige netto sentiment ($s_1$), een vertrouwensgewogen netto sentiment ($s_2$), een driecategorie probabilistische index ($s_3$), en een 30-daags voortschrijdend gemiddelde ($s_4$).

• Fase B: Voorspelling van de Marktdirection

  • Feature Engineering: De sentimentindices worden gefuseerd met 15 NIFTY 50 technische indicatoren (inclusief RSI, MACD, Bollinger Bands, EMA, ATR, OBV) en afgeleide kenmerken zoals log-returns en volatiliteit. Lag-features (1e, 2e en 3e orde) worden toegepast om temporele causaliteit te waarborgen.
  • Experimenteel Ontwerp: Zes voorspellende architecturen worden geëvalueerd met behulp van een lekvrije Time Series Split (vijfvoudige kruisvalidatie) en een 80/20 chronologische hold-out. De modellen omvatten Vanilla LSTM, CNN-LSTM, GRU met Attention, Ensemble LR-LSTM, Standaard Logistische Regressie en een Geoptimaliseerde Logistische Regressie met Exponential Moving Average (EMA) smoothing.
  • Statistische Validatie: Prestaties worden beoordeeld via nauwkeurigheid en directionele nauwkeurigheid. Statistische significantie wordt getest met gepaarde t-testen (vergelijking van prijs-alleen versus sentiment-geaugmenteerde modellen) en OLS-regressie met HC3-robuuste standaardfouten.

Belangrijkste Bijdragen

1. Nieuwe Hybride Architectuur: Introductie van een DeBERTa-v3 framework dat dual-pooling, gated lexicon fusie, SWA en TTA incorporeert, specifiek voor driecategorie sentimentanalyse.
2. Eerste Transformer-afgeleide DSI voor NIFTY 50: Creatie van een Daily Sentiment Index gebaseerd op 198.730 multi-bron koppen, die onthult dat 40,86% van het financiële nieuws neutraal sentiment overbrengt—een factor die vaak wordt genegeerd in binaire modellen.
3. Rigoureuze Vergelijkende Analyse: Een lekvrije vergelijking van zes voorspellende modellen met sentiment-geaugmenteerde kenmerken, die aantoont dat eenvoudigere lineaire modellen met EMA smoothing de complexe deep learning architecturen kunnen overtreffen op deze dataset.
4. Formele Statistische Testen: Toepassing van gepaarde t-testen en HC3-robuuste OLS-regressie om de statistische significantie van sentimentkenmerken te valideren en hun relatie met marktrendementen te analyseren.

Resultaten

• Prestaties van het Sentimentmodel: Het Lexicon Fusion Model bereikte een nauwkeurigheid van 90,90% en een macro F1-score van 90,88% op de SEntFiN testset. De neutrale klasse, die vaak het meest ambigu is, werd geclassificeerd met 86,8% nauwkeurigheid.
• Prestaties van de Marktvorspelling: De Geoptimaliseerde Logistische Regressie met EMA kenmerken behaalde de hoogste kruisvalidatie-nauwkeurigheid van 0,594 ± 0,032 en een directionele nauwkeurigheid van 62,98% op de hold-out set. Dit presteerde beter dan alle deep learning modellen (LSTM, CNN-LSTM, GRU) en de meerderheidsbaseline (53,10%).
• Statistische Bevindingen:
  • Een gepaarde t-test bevestigde dat het sentiment-geaugmenteerde model een statistisch significante verbetering ($p < 0,05$) bood ten opzichte van de prijs-alleen baseline. Het Geoptimaliseerde LR-model behaalde 59,54% nauwkeurigheid vergeleken met 50,87% voor de Price Only (LR) baseline, wat een toename van ongeveer 8,67 procentpunt vertegenwoordigt.
  • Omgekeerd leverde OLS-regressie van de sentimentindex tegen dagelijkse rendementen een niet-significante correlatie op ($p = 0,70$, $R^2 = 0,003$), wat de Efficiënte Markthypothese op dagelijkse frequentie ondersteunt. De auteurs merken op dat dit verschil voortkomt uit het feit dat OLS een univariate lineaire relatie test, terwijl de t-test de bruikbaarheid van een multidimensionale feature vector in een niet-lineair model evalueert.

Significantie en Claims
Het artikel claimt dat de integratie van transformer-afgeleide sentimentsignalen met technische indicatoren een statistisch significant voordeel biedt bij het voorspellen van de richting van de NIFTY 50, met name bij het gebruik van een driecategorie sentimentframework dat rekening houdt met neutraal nieuws. De studie benadrukt dat hoewel dagelijkse marktefficiëntie eenvoudige lineaire correlaties tussen sentiment en rendement kan maskeren, sentimentkenmerken waardevolle discriminerende bruikbaarheid bieden in een multidimensionale voorspellende context. Het onderzoek vult een gat in de literatuur door de afwezigheid van neutrale sentimentanalyse, de weglating van domeinspecifieke lexiconen en het gebrek aan formele statistische validatie in Indiase marktonderzoeken aan te pakken.

Beperkingen
De auteurs erkennen beperkingen zoals het gebrek aan uurlijkse tijdstempels (wat precieze nieuws-naar-prijs matching hindert), de exclusie van sociale media sentiment en regelgevende documenten, en de afwezigheid van regime-specifieke analyse (bijv. tijdens de COVID-19 uitbraak). De dagelijkse frequentie van de analyse negeert bovendien intra-dag relaties tussen sentiment en prijs.