Generalized Stock Price Prediction for Multiple Stocks Combined with News Fusion

Diese Studie stellt ein generalisiertes Modell zur Vorhersage von Aktienkursen mehrerer Unternehmen vor, das historische Preisdaten mit durch Aufmerksamkeitsmechanismen gefilterten Nachrichtenartikeln kombiniert, die mittels Large Language Models und Aktien-Embeddings verarbeitet wurden, und erreicht dabei eine 7,11%ige Reduktion des mittleren absoluten Fehlers im Vergleich zur Baseline.

Das Wesentliche

Vorhersage von Aktienkursen mit Hilfe von KI und Nachrichten: Eine einfache Erklärung

Stellen Sie sich vor, Sie sind ein Anleger, der versucht vorherzusagen, wie sich der Preis einer Aktie morgen entwickeln wird. Traditionell schauen Anleger nur auf die Zahlen der Vergangenheit (die „Kurve"). Aber in der heutigen Welt ist das nicht mehr genug. Nachrichten, Gerüchte und Stimmungen aus den Medien bewegen die Märkte genauso stark wie Zahlen.

Das Problem ist jedoch: Es gibt zu viele Nachrichten! Täglich erscheinen hunderte Artikel. Die meisten davon sind für eine bestimmte Aktie völlig unwichtig (Rauschen). Ein Computermodell, das alles auf einmal liest, würde den Überblick verlieren, genau wie ein Mensch, der versucht, in einem riesigen Lärm eine einzelne Stimme zu hören.

Diese Forschungsarbeit von Pei-Jun Liao und seinem Team aus Taiwan und den USA stellt eine neue Methode vor, um dieses Problem zu lösen. Hier ist die Erklärung, wie sie es tun, mit ein paar einfachen Vergleichen:

1. Der „Super-Leser" (Die KI)

Die Forscher nutzen eine moderne Künstliche Intelligenz, einen sogenannten Large Language Model (LLM). Man kann sich das wie einen extrem gut gebildeten Bibliothekar vorstellen, der nicht nur Zahlen, sondern auch Tausende von Texten versteht. Dieser Bibliothekar kann Zusammenhänge erkennen, die für uns Menschen schwer zu sehen sind.

2. Das Problem: Der Lärm im Nachrichten-Ozean

Stellen Sie sich vor, Sie wollen wissen, wie sich die Aktie von „TSMC" (einem großen Chiphersteller) entwickelt. An einem Tag gibt es 200 Nachrichtenartikel.

• Artikel 1: „TSMC hat neue Chips entwickelt." (Wichtig!)
• Artikel 2: „Ein neuer Kaffee-Shop in Taipei eröffnet." (Unwichtig für TSMC)
• Artikel 3: „Der Weltmarkt für Autos verändert sich." (Vielleicht relevant, aber nicht direkt)

Frühere Methoden haben versucht, diese Artikel vorher herauszufiltern (wie ein Suchmaschinen-Filter). Aber das funktioniert oft schlecht, weil wichtige Informationen oft nicht direkt im Titel stehen.

3. Die Lösung: Der „Namens-Filter" (Aufmerksamkeits-Mechanismus)

Das Team hat eine clevere Idee entwickelt: Sie geben dem KI-Modell nicht einfach alle Nachrichten, sondern sagen ihm: „Achte besonders auf das, was zu diesem spezifischen Namen passt!"

Sie nutzen eine Technik namens „Attentive Pooling". Stellen Sie sich das so vor:

• Der KI wird der Name der Aktie (z. B. „TSMC") als eine Art „Suchanfrage" oder „Frage" gegeben.
• Dann wirft die KI einen Blick auf alle 200 Nachrichten.
• Anstatt alle Artikel gleich zu behandeln, fragt die KI sich bei jedem Artikel: „Wie stark bezieht sich dieser Text auf TSMC?"
• Artikel, die nichts mit TSMC zu tun haben, werden „leiser" gemacht (heruntergewichtet). Artikel, die sehr relevant sind, werden „lauter" (hochgewichtet).

Es ist, als würde man in einem vollen Raum mit 200 Personen stehen und jemand ruft: „Wer spricht über TSMC?" Nur die relevanten Personen antworten laut, die anderen bleiben stumm. So bekommt das Modell eine saubere, zusammengefasste Nachricht, die wirklich wichtig ist.

4. Drei verschiedene Methoden des „Horchens"

Die Forscher haben drei verschiedene Wege getestet, wie die KI diese „Lautstärke" regeln kann:

1. Kreuz-Attention: Die KI vergleicht den Aktiennamen direkt mit jedem Artikel (wie ein Detektiv, der jeden Verdächtigen einzeln abfragt).
2. Selbst-Attention: Die KI schaut sich alle Artikel an und lässt sie untereinander „sprechen", während der Aktiennamen als Moderator fungiert.
3. Positions-bewusste Selbst-Attention: Hier wird auch beachtet, in welcher Reihenfolge die Nachrichten kamen (wie ein Zeitstrahl).

Das Ergebnis? Die Methode, bei der die KI alle Artikel gleichzeitig betrachtet und den Namen als Moderator nutzt (Selbst-Attention), war oft am besten. Sie reduzierte die Vorhersagefehler um 7,11 % im Vergleich zu alten Methoden.

5. Ein Modell für alle (Der „Universal-Trainer")

Ein besonderes Highlight dieser Arbeit ist, dass sie ein einziges Modell trainiert haben, das für viele verschiedene Aktien funktioniert.

• Früher: Man musste für jede einzelne Aktie (Apple, Tesla, TSMC) ein eigenes, separates Modell bauen. Das war wie 100 verschiedene Lehrer für 100 verschiedene Fächer.
• Jetzt: Sie haben ein „Super-Lehrer"-Modell gebaut, das für alle Aktien gleichzeitig lernt. Es versteht die allgemeinen Muster des Marktes und passt sich dann durch den Namen der spezifischen Aktie an. Das macht das System effizienter und robuster.

6. Das Ergebnis: Bessere Vorhersagen

Die Forscher haben ihre Methode an der taiwanesischen Börse (mit Aktien wie TSMC, Foxconn) und an US-Aktien getestet.

• Ergebnis: Die Vorhersagen waren deutlich genauer als bei herkömmlichen Methoden.
• Der Preis: Natürlich braucht eine so starke KI mehr Rechenleistung als ein einfacher Taschenrechner (LSTM). Es dauert länger zu trainieren, aber die Genauigkeit lohnt sich für Anleger, die präzise Prognosen brauchen.

Zusammenfassung in einem Satz

Die Forscher haben eine KI entwickelt, die wie ein erfahrener Nachrichtensprecher agiert: Sie ignoriert den Lärm in den Medien, konzentriert sich auf das, was für die spezifische Aktie wirklich wichtig ist, und nutzt dieses Wissen, um den morgigen Aktienkurs genauer vorherzusagen als je zuvor.

Warum ist das wichtig?
Weil es zeigt, dass wir nicht nur auf Zahlen schauen müssen, sondern dass KI uns helfen kann, die riesige Flut an Informationen im Internet sinnvoll zu nutzen, um bessere finanzielle Entscheidungen zu treffen.

Technische Zusammenfassung

1. Problemstellung

Die Vorhersage von Aktienkursen ist eine komplexe Herausforderung im Bereich der Finanzprognose. Traditionelle Ansätze (z. B. ARIMA, RNNs) nutzen oft nur historische Preisdaten. Neuere Methoden integrieren Textdaten (Nachrichten, Social Media), stoßen jedoch auf zwei Hauptprobleme:

• Informationsrauschen: Das Aggregieren aller verfügbaren täglichen Nachrichten führt zu einer enormen Menge an irrelevanter Information, die das Modell verwirrt und die Genauigkeit mindert.
• Abhängigkeit von Retrieval: Herkömmliche Methoden trennen die Phase der Nachrichtenrecherche (basierend auf Keywords) von der Vorhersagemodellierung. Dies führt zu einer Abhängigkeit von der Genauigkeit des separaten Retrieval-Prozesses und kann implizit relevante Informationen übersehen.
• Fehlende Generalisierung: Die meisten bestehenden Modelle werden für einzelne Aktien trainiert. Es fehlt an einem generalisierten Modell, das über mehrere Aktien hinweg funktioniert und dabei die spezifischen Kontexte jeder Aktie berücksichtigt.

2. Methodik

Das Paper stellt einen neuen Rahmen vor, der Large Language Models (LLMs) mit täglichen Finanznachrichten kombiniert, um eine generalisierte Vorhersage für mehrere Aktien zu ermöglichen. Die Architektur (siehe Abbildung 1 im Paper) besteht aus folgenden Modulen:

A. News Encoding (Nachrichtenkodierung)

• Jeder Artikel wird unabhängig mit einem vortrainierten Sprachmodell (PLM) wie BERT (für chinesische Texte/TW21) oder DeBERTa (für US-Daten) kodiert.
• Die [CLS]-Token-Repräsentation der letzten Schicht dient als feste semantische Embedding-Vektoren für die Artikel.

B. Attentive Pooling (Aufmerksamkeits-Pooling)

Da pro Tag durchschnittlich über 200 Artikel anfallen, werden diese nicht direkt in das LLM eingespeist, sondern zu einem einzigen Tagesvektor zusammengefasst. Um dabei relevante von irrelevanten Nachrichten zu unterscheiden, werden Aktiennamen-Embeddings in den Pooling-Prozess integriert. Drei Varianten werden untersucht:

1. Cross-Attentive Pooling (CAP): Der Aktienname dient als Query, während die Nachrichtenartikel als Keys und Values fungieren. Dies filtert Nachrichten basierend auf ihrer Ähnlichkeit zum spezifischen Aktiennamen.
2. Self-Attentive Pooling (SAP): Der Aktienname wird der Sequenz der Nachrichten-Embeddings vorangestellt. Eine Self-Attention berechnet die Gewichtung unter Berücksichtigung der Interaktion zwischen Name und Artikeln.
3. Position-Aware Self-Attentive Pooling (PA-SAP): Ähnlich wie SAP, aber mit zusätzlichen Positional Embeddings, um die zeitliche Reihenfolge der Artikel innerhalb eines Tages zu berücksichtigen.

C. News-Price Fusion (Fusion von Nachrichten und Preisen)

Die aggregierten Nachrichtenvektoren werden mit den historischen Preisdaten (20 Tage) fusioniert. Drei Strategien werden kombiniert:

• Bidirektionale Cross-Attention: Ermöglicht den Informationsaustausch zwischen Preis- und Nachrichten-Sequenzen (Price-to-News und News-to-Price).
• Graph Convolutional Networks (GCN): Modelliert strukturelle Abhängigkeiten zwischen den Aktien und aggregiert Merkmale über ein 5-Tage-Fenster (CausalCNN).
• Gewichtete Kombination: Die Ausgaben der Fusionsschichten werden mit den ursprünglichen Embeddings gewichtet gemischt, um „Stock-aware Features" zu erzeugen.

D. Patch Reprogramming & LLM

• Die fusionierten Merkmale werden mittels Patch Reprogramming (aus Time-LLM) in den Embedding-Raum des LLMs projiziert.
• Ein frozen LLM (z. B. LLaMA3-8B oder GPT-2) dient als Backbone für die Zeitreihenvorhersage. Nur die Reprogrammierungsschichten und die finale Vorhersageschicht werden feinabgestimmt (Fine-Tuning).
• Als Prompt wird nur der Aktienname verwendet, um den Kontext zu setzen, ohne die numerischen Eingaben zu überlagern.

3. Schlüsselbeiträge

1. Generalisiertes Vorhersagemodell: Entwicklung eines einzigen Modells, das über mehrere Aktien hinweg trainiert wird und sowohl auf dem taiwanesischen (TW21) als auch auf dem US-Markt (BigData23) funktioniert.
2. Semantisch bewusste Nachrichtenfilterung: Einführung eines Pooling-Mechanismus, der Aktiennamen-Embeddings nutzt, um Rauschen aus Nachrichtenströmen zu filtern, ohne separate Retrieval-Schritte.
3. Integration unstrukturierter und strukturierter Daten: Kombination von GCNs und Cross-Attention, um Textdaten (Nachrichten) und numerische Zeitreihen (Preise) effektiv zu verschmelzen.
4. Empirische Validierung: Umfassende Experimente auf zwei verschiedenen Märkten mit unterschiedlichen Datencharakteristika (vollständige Firmennamen vs. Ticker-Symbole).

4. Ergebnisse

Die Experimente wurden auf dem taiwanesischen Markt (6 Aktien: TSMC, MediaTek, etc.) und dem US-Markt (BigData23, 42 Aktien) durchgeführt.

• Leistungsgewinn: Im Vergleich zum Baseline-Modell (Time-LLM ohne Nachrichten) und einem Modell mit Nachrichten aber ohne Aktienname-Filterung (+News) konnte das vorgeschlagene Modell die Mean Absolute Error (MAE) um 7,11 % reduzieren.
• Beste Pooling-Methode: Self-Attentive Pooling (SAP) zeigte die konsistentesten Ergebnisse mit der geringsten Varianz über verschiedene Aktien hinweg. Cross-Attentive Pooling (CAP) performte bei großen Aktien (Large-Caps) sehr gut, war aber varianzanfälliger.
• Einfluss des Aktiennamens (SNP): Die Verwendung des Aktiennamens als Prompt (Stock Name Prompt) verbesserte die Ergebnisse nicht signifikant gegenüber der reinen Nutzung von Aktiennamen-Embeddings im Pooling. Das Pooling allein reichte aus, um relevante Kontextinformationen zu extrahieren.
• Herausforderungen bei US-Daten: Bei den US-Daten (BigData23), die oft nur Ticker-Symbole (z. B. „F" für Ford) verwenden, litt die Leistung von CAP unter der semantischen Mehrdeutigkeit der Ticker. SAP war hier robuster, da es weniger auf die explizite semantische Präzision des Queries angewiesen ist.
• Kosten-Nutzen-Abwägung: Während LLM-basierte Modelle rechenintensiver sind (ca. 2 Tage Training vs. 30 Minuten für LSTM), übertrifft die Genauigkeit (bis zu 73 % Reduktion der MSE gegenüber LSTM) die Kosten deutlich.

5. Bedeutung und Ausblick

Das Paper demonstriert, dass die Kombination von LLMs mit einem intelligenten, auf Aktiennamen basierenden Filtermechanismus für Nachrichten eine effektive Methode zur Verbesserung der Aktienkursvorhersage ist.

• Generalisierung: Es beweist, dass ein einzelnes Modell für verschiedene Märkte und Aktien funktionieren kann, was Skalierbarkeit und Effizienz erhöht.
• Rauschunterdrückung: Der Ansatz löst das Problem des Informationsrauschens in Finanznachrichten durch semantische Filterung innerhalb des Modells, anstatt auf externe Suchalgorithmen zu setzen.
• Zukünftige Arbeiten: Die Autoren planen, das Modell auf Small-Cap-Aktien zu erweitern, längere Zeitfenster (60–120 Tage) für mittelfristige Trends zu testen und Techniken wie Entity Linking zu nutzen, um die Probleme bei Ticker-Symbolen (wie in BigData23) zu lösen. Zudem soll das Modell in echte Handelsstrategien integriert und getestet werden.