DART: Domain Aware Relational Transformer for Stock Prediction

Imaginez que vous essayez de prédire la météo, mais au lieu de regarder les nuages, vous regardez la bourse. C'est le monde de la finance quantitative, où les scientifiques et les investisseurs tentent de deviner quelles actions vont monter ou descendre demain. Pendant longtemps, on a pensé que le marché était comme un lancer de pièce parfaitement équitable, où personne ne pouvait réellement prédire l'avenir parce que tout le monde savait déjà tout. Mais ensuite, des esprits brillants ont réalisé que les humains ne sont pas des robots parfaits ; nous avons peur, nous sommes excités et nous suivons la foule, ce qui rend le marché un peu désordonné et en fait prévisible d'une certaine manière. Aujourd'hui, nous utilisons des ordinateurs puissants et le « deep learning » (un type d'intelligence artificielle qui apprend à partir de modèles) pour trouver ces signaux cachés dans le bruit. Le gros problème, cependant, est qu'il existe des milliers d'actions, et qu'elles s'influencent toutes les unes les autres de manières complexes. Essayer de comprendre comment chaque action communique avec toutes les autres est comme essayer d'écouter la conversation entre chaque personne dans un stade à la fois : c'est trop d'informations pour qu'un ordinateur puisse les gérer sans être submergé.

C'est là qu'intervient une nouvelle étude avec une solution ingénieuse appelée DART (Domain-Aware Relational Transformer). Considérez le marché boursier comme une immense fête bruyante. Par le passé, si vous vouliez savoir qui parlait à qui, vous essayeriez d'écouter toutes les conversations qui se déroulent en même temps. Cela prend un temps infini et vous donne mal à la tête. Les chercheurs derrière DART ont réalisé que les gens parlent principalement aux autres au sein de leurs propres groupes — comme les enfants à la table des collations ou les adultes près du bol de punch. Ils ne crient généralement pas à travers la pièce pour parler à quelqu'un appartenant à un groupe totalement différent. Ainsi, au lieu d'écouter tout le monde, DART n'écoute que les personnes du même « groupe sectoriel » (comme les entreprises technologiques qui discutent avec d'autres entreprises technologiques). Cela rend la tâche de l'ordinateur beaucoup, beaucoup plus rapide.

L'article suggère qu'en utilisant cette stratégie d'« écoute par groupe », combinée à une façon particulière d'observer le temps (en vérifiant simultanément les tendances à court terme, à moyen terme et à long terme), le modèle peut prédire les rendements boursiers mieux que les anciennes méthodes. Lors de tests utilisant des données réelles du NASDAQ, du NYSE et du S&P 500, le modèle DART a montré qu'il pouvait faire des choix d'investissement plus intelligents et mieux gérer le risque que les autres modèles de pointe. Il a également prouvé qu'en ignorant le « bruit » des actions non liées, l'ordinateur pouvait effectuer son travail en utilisant environ 84 % d'énergie en moins qu'auparavant. Bien que le modèle ne soit pas une boule de cristal magique garantissant des profits, les auteurs suggèrent qu'il s'agit d'un outil beaucoup plus pratique et efficace pour naviguer dans le monde complexe et encombré de la bourse.

L'histoire de DART : Une façon plus intelligente d'écouter le marché

Le Problème : Trop de bruit, trop de connexions

Imaginez que vous êtes à un concert massif avec des milliers de personnes. Si vous voulez savoir quelle chanson est jouée, vous pourriez essayer d'écouter chaque voix à la fois. Mais c'est impossible ; c'est un mur de bruit. C'est exactement le problème auquel les ordinateurs sont confrontés lorsqu'ils tentent de prédire les actions. Il existe des milliers d'actions, et chacune d'elles est connectée à toutes les autres. Les anciens modèles informatiques essayaient d'écouter tout le monde en même temps. C'est ce qu'on appelle l'« attention totale » (full attention). C'est très précis en théorie, mais c'est tellement lent et coûteux qu'il est pratiquement impossible de l'utiliser pour le trading réel avec des milliers d'actions. C'est comme essayer de résoudre un puzzle en vérifiant chaque pièce par rapport à toutes les autres ; le puzzle devient trop grand et votre cerveau (ou votre ordinateur) plante.

La Solution : La règle du « voisinage industriel »

Les chercheurs ont proposé une idée simple mais puissante : les actions du même secteur sont de meilleurs amis ; les actions de secteurs différents ne sont que des connaissances.

Considérez le marché boursier comme une grande ville divisée en quartiers. Il y a un « Quartier Tech », un « Quartier Alimentation » et un « Quartier Automobile ». Les gens du Quartier Tech se parlent tout le temps car ils partagent les mêmes actualités et tendances. Mais les gens du Quartier Tech ont rarement une conversation directe et urgente avec les gens du Quartier Alimentation.

Le modèle DART utilise cette règle. Au lieu d'écouter toute la ville, il n'écoute que les conversations qui ont lieu au sein de chaque quartier. C'est ce qu'on appelle l'Attention Creuse Guidée par la Connaissance du Domaine (DSA).

• Comment ça marche : L'ordinateur regarde une action, demande : « Dans quel quartier est-elle ? », puis ne prête attention qu'aux autres actions de ce même quartier.
• Le Résultat : Il ignore le bruit inutile des actions non liées. L'article montre que cela réduit la charge de travail de l'ordinateur d'environ 84 % (plus précisément, de 0,23 GFLOPs à 0,04 GFLOPs dans leurs tests). C'est comme passer de l'effort pour entendre un murmure dans un ouragan à l'écoute d'une discussion tranquille dans un café.

La Machine à Remonter le Temps : Voir le passé en couches

Prédire l'avenir ne consiste pas seulement à savoir qui parle à qui ; il s'agit aussi de savoir quand les choses arrivent. Les actions bougent sur des horloges différentes. Certaines bougent vite (minute par minute), d'autres plus modérément (tendances quotidiennes), et d'autres plus lentement (tendances mensuelles ou annuelles).

Les anciens modèles essayaient souvent de regarder le temps avec un seul type de lunettes, ce qui signifiait qu'ils manquaient soit la vue d'ensemble, soit les détails précis. DART utilise un module de Fusion Temporelle Multi-Échelle (MSTF).

• L'Analogie : Imaginez regarder un film. Vous avez un objectif zoom qui vous permet de voir les détails minuscules du visage d'un acteur (court terme), un objectif grand angle qui montre toute la scène (moyen terme), et une prise de vue par drone qui montre toute la ville (long terme). DART utilise ces trois objectifs en même temps.
• La Magie : Il utilise ensuite un réseau de « Fusion Temporelle Progressive » pour superposer ces vues. C'est comme construire un sandwich où chaque couche ajoute plus de saveur, aidant l'ordinateur à comprendre comment un petit changement aujourd'hui peut se transformer en une grande tendance demain.

Ce qu'ils ont trouvé : Plus rapides et plus intelligents

Les chercheurs ont testé leur nouveau modèle, DART, contre plusieurs autres modèles célèbres (comme LSTM, GCN et même des plus récents comme MambaStock) en utilisant des données réelles du marché boursier américain (NASDAQ, NYSE et S&P 500) de 2020 à 2024.

Voici ce que les données suggèrent :

1. Meilleurs Rendements : DART n'a pas seulement mieux deviné ; il a aidé à construire un meilleur « portefeuille » (une collection d'actions). Lors des tests, il a obtenu le Ratio de Sharpe le plus élevé (un score qui mesure l'argent gagné par rapport au risque pris) sur le NASDAQ et le S&P 500. Par exemple, sur le NASDAQ, DART a obtenu un Ratio de Sharpe de 2,432, alors que le suivant était de 1,827.
2. Meilleurs Choix : Lorsque le modèle a sélectionné les 10 actions qu'il pensait être les meilleures, il a eu raison plus souvent que les autres (une métrique appelée Precision@10). Sur le NYSE, il a trouvé juste pour 58,7 % de ses meilleurs choix, battant la concurrence.
3. La Zone d'Échec : L'étude a explicitement montré que si l'on supprime la règle du « voisinage » et que l'on laisse l'ordinateur écouter tout le monde (Attention Totale), le modèle s'embrouille et devient bien moins performant. Cela prouve qu'ignorer les connexions non pertinentes est en fait bon pour le modèle.

L'Essentiel

L'article suggère que DART est un outil pratique et efficace pour l'avenir de l'investissement. Il ne prétend pas être une baguette magique garantissant la richesse, mais il démontre qu'en utilisant des règles intelligentes (comme n'écouter que son propre quartier) et en observant le temps en couches, les ordinateurs peuvent donner beaucoup plus de sens au chaos du marché boursier. Il résout le problème du « trop de données » en étant sélectif, rendant possible l'utilisation d'une IA puissante sur des milliers d'actions sans épuiser les ressources de l'ordinateur ou le budget.

Comme le notent les auteurs, il reste encore des progrès à faire. Actuellement, le modèle ne regarde les « quartiers » que sur la base de listes sectorielles statiques. À l'avenir, ils espèrent rendre ces quartiers dynamiques, afin que le modèle puisse voir quand une entreprise technologique commence soudainement à agir comme une entreprise alimentaire, ou quand une nouvelle lie deux groupes totalement différents. Mais pour l'instant, DART constitue une étape solide et efficace pour apprendre aux ordinateurs comment naviguer dans le monde de la finance.