Impact of LLMs news Sentiment Analysis on Stock Price Movement Prediction

Cette étude démontre que l'analyse de sentiment des actualités par des LLMs, en particulier DeBERTa et un modèle d'ensemble combinant DeBERTa, RoBERTa et FinBERT, améliore la prédiction des mouvements boursiers, atteignant jusqu'à 80 % de précision tout en bénéficiant légèrement à divers modèles de classification et de régression.

L'essentiel

Voici une explication de cette recherche, imagée et simplifiée, comme si nous en discutions autour d'un café.

📰 Le Titre : Peut-on prédire la bourse en écoutant les nouvelles ?

Imaginez que le marché boursier est un océan gigantesque et agité. Les investisseurs sont des navigateurs qui essaient de deviner où iront les vagues (les prix des actions) demain. Traditionnellement, ils regardent les cartes marines (les chiffres, les volumes d'achat). Mais cette étude se demande : et si on écoutait aussi la météo et les cris des autres marins (les nouvelles de presse) ?

Les auteurs de ce papier (Walid, Ahmed et Mike) ont voulu tester si l'intelligence artificielle capable de comprendre le "ton" des nouvelles (sentiment) pouvait aider à prédire si une action va monter ou descendre.

---

🤖 Les Outils : Trois détecteurs de sentiments

Pour lire les milliers d'articles de presse, les chercheurs ont utilisé trois "super-intelligences" artificielles (des modèles de langage ou LLM), un peu comme trois traducteurs experts qui lisent les nouvelles et disent : "C'est positif, c'est négatif ou c'est neutre".

1. FinBERT : C'est le spécialiste. Il a été entraîné spécifiquement sur des textes financiers. C'est comme un vieux banquier qui connaît tous les codes de la finance.
2. RoBERTa : C'est un généraliste très intelligent, mais qui n'est pas spécialisé en finance.
3. DeBERTa : C'est le nouveau venu, très puissant et capable de comprendre les nuances complexes du langage.

Le résultat de la course ?
C'est DeBERTa qui a gagné le marathon ! Il a deviné le bon sentiment dans 75 % des cas, battant le spécialiste (FinBERT) et le généraliste (RoBERTa).
Analogie : C'est comme si un détective très observateur (DeBERTa) trouvait plus de indices qu'un expert en criminologie (FinBERT) ou qu'un bon policier généraliste (RoBERTa).

Le secret des champions : L'Ensemble
Mais attention, les chercheurs ont eu une idée de génie : et si on mettait les trois en équipe ?
Ils ont créé un "coach" (un modèle d'ensemble, ici une machine à vecteurs de support ou SVM) qui écoute les trois experts et prend la décision finale.

• Résultat : L'équipe atteint 80 % de réussite.
• Métaphore : C'est comme un conseil de guerre où trois généraux débattent avant de donner un ordre. L'avis du groupe est souvent plus juste que celui d'un seul général, même le meilleur.

---

📉 Le Défi : Transformer les nouvelles en prédictions

Avoir de bonnes nouvelles, c'est bien. Mais comment les utiliser pour prédire le prix d'une action (comme Apple, Tesla ou Amazon) ?

Les chercheurs ont testé plusieurs "moteurs" de prédiction (des modèles mathématiques) :

• LSTM : Un modèle classique, comme un vieux moteur fiable.
• PatchTST & TimesNet : Des modèles modernes, comme des voitures de course de Formule 1, capables de voir des motifs complexes dans le temps.
• tPatchGNN : Un modèle qui relie les actions entre elles, comme un réseau social où tout le monde s'influence.

Ils ont injecté les "sentiments" (les nouvelles) dans ces moteurs pour voir si ça aidait.

Ce qu'ils ont découvert :

1. Ce n'est pas magique pour tout le monde : Ajouter les nouvelles n'a pas aidé tous les moteurs de la même manière.
   • Pour les modèles de type "Formule 1" (PatchTST et TimesNet), les nouvelles ont fait une différence énorme. C'est comme ajouter du kérosène à un moteur : la performance a bondi.
   • Pour les modèles classiques (LSTM), l'amélioration était plus faible, mais toujours présente.
2. La classification vs la régression :
   • Si on veut juste savoir si ça va monter ou descendre (comme un feu vert/rouge), les nouvelles aident un peu.
   • Si on veut prédire de combien le prix va changer (la vitesse exacte), les nouvelles aident énormément les modèles modernes.

---

🧩 Les Nuances : Comment on compte les nouvelles ?

Une journée, il peut y avoir 100 articles sur une entreprise. Faut-il les compter tous ? Prendre la moyenne ? Le plus pessimiste ?
Les chercheurs ont fait des tests (des "ablations", comme enlever des pièces d'un moteur pour voir ce qui est essentiel).

• Ce qui compte : Le nombre d'articles et la somme de leur "positivité" globale.
• Ce qui compte moins : Savoir si la majorité des articles disent "positif" ou "négatif" (le vote majoritaire) n'a pas beaucoup changé le résultat.
• Analogie : C'est comme une foule. Ce n'est pas tant le nombre de personnes qui crient "Oui" ou "Non" qui compte, mais l'intensité totale du bruit (la somme des cris) et le nombre de personnes présentes.

---

💡 En résumé : La leçon à retenir

Cette étude nous dit que :

1. L'IA moderne (DeBERTa) est excellente pour lire l'humeur des nouvelles financières, mieux que les modèles spécialisés d'il y a quelques années.
2. La force du groupe : Combiner plusieurs IA donne de meilleurs résultats que n'importe laquelle seule.
3. Le bon outil pour le bon travail : Les nouvelles ne font pas de miracles pour n'importe quel modèle de prédiction. Elles sont particulièrement utiles pour les modèles de prédiction les plus avancés (comme PatchTST et TimesNet).

Conclusion simple : Si vous voulez prédire la bourse, ne regardez pas seulement les chiffres. Écoutez aussi ce que disent les journaux, mais faites-le lire par une équipe d'experts IA, et utilisez un moteur de prédiction moderne pour en tirer profit ! 🚀📈

Résumé technique

Voici un résumé technique détaillé de l'article « IMPACT OF LLMS NEWS SENTIMENT ANALYSIS ON STOCK PRICE MOVEMENT PREDICTION », accepté à l'atelier ICLR 2026 sur les avancées en IA financière.

1. Problématique et Contexte

La prédiction des mouvements de prix boursiers est un défi majeur en raison de la complexité des facteurs économiques, techniques et politiques. Bien que l'analyse de sentiment des nouvelles financières soit reconnue comme un facteur influent, les travaux antérieurs présentent plusieurs lacunes :

• Ils se concentrent souvent sur un seul modèle de langage (LLM) sans comparaison directe.
• Ils négligent l'impact des différentes représentations des sorties de sentiment (scores de probabilité vs étiquettes discrètes) et des méthodes d'agrégation quotidienne.
• La fusion des données de sentiment avec des architectures temporelles modernes (Transformers basés sur des patches, GNN temporels) reste sous-exploitée.

L'objectif de cette étude est de combler ces lacunes en évaluant rigoureusement l'apport de l'analyse de sentiment basée sur les LLMs pour la prédiction des actions, en comparant différentes architectures de modèles et méthodes d'intégration.

2. Méthodologie

A. Modèles d'Analyse de Sentiment

Les auteurs ont évalué trois modèles LLMs de base pour la classification de sentiment financier :

1. FinBERT : Adapté au domaine financier.
2. RoBERTa : Version optimisée de BERT à usage général.
3. DeBERTa : Architecture avancée avec mécanisme de décodage séparé.

Ces modèles génèrent des classes de sentiment (négatif, neutre, positif) et des scores de confiance. Pour améliorer la performance, trois modèles d'ensemble (Ensemble Learning) ont été entraînés sur les sorties combinées de ces trois LLMs en utilisant des algorithmes classiques : Random Forest (RF), Régression Logistique (LR) et Machines à Vecteurs de Support (SVM).

B. Méthodes de Prédiction Boursière (Downstream Tasks)

Quatre architectures de séries temporelles distinctes ont été utilisées pour la prédiction :

• LSTM : Réseau de mémoire à long terme court terme (baseline).
• PatchTST : Transformer optimisé pour les séries temporelles multivariées utilisant un mécanisme de "patching".
• TimesNet : Modélisation des variations temporelles dans un espace bidimensionnel.
• tPatchGNN : Intégration du patching temporel avec des réseaux de neurones graphiques (GNN) pour capturer les dépendances relationnelles entre actifs.

C. Données et Agrégation

• Données : 5 actions majeures (MSFT, AMZN, AAPL, NFLX, TSLA) du 10 mars 2022 au 2 avril 2025.
• Sources : Données de prix (Yahoo Finance) et nouvelles (API AlphaVantage, >96 000 articles).
• Agrégation : Les sentiments individuels des articles sont agrégés quotidiennement via plusieurs métriques : somme des scores, minimum/maximum, vote majoritaire et comptage par classe.
• Tâches :
  • Classification : Prédiction binaire de la tendance (hausse vs baisse).
  • Régression : Prédiction du facteur de prix (ratio de variation).

3. Résultats Clés

A. Performance des Modèles de Sentiment

• DeBERTa s'est révélé supérieur aux autres modèles avec une précision de 75,2 %, suivi de FinBERT (69,6 %) et RoBERTa (58,9 %).
• Les diagrammes de Venn ont montré que les modèles ne prédisent pas correctement les mêmes articles, indiquant une complémentarité.
• L'approche d'ensemble (SVM) a atteint une précision moyenne d'environ 80 %, surpassant chaque modèle individuel.

B. Impact sur la Classification (Tendance Boursière)

• L'intégration des features de sentiment a légèrement amélioré les performances des classifieurs LSTM, PatchTST et tPatchGNN.
• Pour l'architecture LSTM, l'utilisation de SVM pour l'ensemble de sentiment a donné le meilleur score F1 (0,554).
• Pour TimesNet, DeBERTa a offert les meilleurs résultats.
• L'ablation study a montré que les features de "comptage" (count) et de "somme" (sum) des sentiments sont cruciales, tandis que le vote majoritaire a un impact minime.

C. Impact sur la Régression (Prédiction de Prix)

• Les gains de performance varient considérablement selon l'architecture :
  • PatchTST et TimesNet : Bénéficient significativement de l'intégration du sentiment. Par exemple, pour TimesNet, l'erreur moyenne (MAE) a diminué de 0,483 (sans sentiment) à ~0,254 (avec sentiment RoBERTa).
  • LSTM et tPatchGNN : Montrent une sensibilité minimale, voire une légère dégradation, avec l'ajout de features de sentiment.

4. Contributions Principales

1. Évaluation Comparative Rigoureuse : Première étude comparant systématiquement FinBERT, RoBERTa et DeBERTa sur un même jeu de données financières pour la prédiction d'actions.
2. Analyse des Représentations : Démonstration que l'agrégation quotidienne (somme, min/max, vote) est essentielle et que les modèles d'ensemble (SVM) surpassent les modèles individuels.
3. Intégration Architecturale : Évaluation de l'impact du sentiment sur des architectures de pointe (PatchTST, TimesNet, tPatchGNN), révélant que l'efficacité dépend fortement du type d'architecture de prédiction utilisée.
4. Reproductibilité : Le code complet et les instructions sont rendus publics pour soutenir la recherche future.

5. Signification et Conclusion

Cette étude démontre que l'analyse de sentiment par LLM est un outil complémentaire puissant, mais non universel.

• DeBERTa est le modèle de sentiment le plus performant individuellement, mais un modèle d'ensemble (SVM) offre la meilleure précision (~80 %).
• L'ajout de données de sentiment améliore significativement les modèles basés sur PatchTST et TimesNet (surtout en régression), tandis que les modèles traditionnels comme LSTM ou les GNN temporels (tPatchGNN) tirent moins profit de ces features dans ce contexte spécifique.
• Ces résultats suggèrent que l'efficacité de l'IA financière dépend d'une adéquation précise entre la méthode d'extraction de sentiment et l'architecture de prédiction temporelle choisie.