TradeFM: A Generative Foundation Model for Trade-flow and Market Microstructure

Each language version is independently generated for its own context, not a direct translation.

Stel je voor dat de beurs een enorme, chaotische stad is waar miljoenen mensen (handelaren) constant met elkaar onderhandelen over de prijs van appels, auto's en huizen. Soms kopen ze, soms verkopen ze, en soms annuleren ze hun aanbod. Dit gebeurt razendsnel, 24/7.

Vroeger probeerden economen en wiskundigen de regels van deze stad te begrijpen door complexe formules te schrijven. Maar de stad verandert te snel en is te complex voor simpele formules.

TradeFM is een nieuw soort "superbrein" dat door J.P. Morgan is gebouwd om deze stad te leren begrijpen. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het is een "Alles-lerende" Reiziger

Stel je voor dat je een taal wilt leren. Je kunt 10 jaar lang alleen maar naar één dorpje in Frankrijk kijken en de taal van dat dorpje leren. Maar als je naar Spanje gaat, werkt die kennis niet goed.

TradeFM is anders. Het heeft niet naar één dorpje gekeken. Het heeft miljarden momentopnames van bijna 10.000 verschillende aandelen (zoals Apple, Tesla, maar ook kleine bedrijfjes) in de VS geanalyseerd. Het heeft geleerd dat de essentie van hoe mensen handelen, overal hetzelfde is, ongeacht of het om dure of goedkope aandelen gaat.

De analogie: In plaats van te leren hoe je een specifieke auto rijdt, heeft TradeFM geleerd hoe rijden werkt. Of je nu een Ferrari of een oude fiets bestuurt, de basisprincipes van sturen, remmen en gas geven zijn hetzelfde.

2. Het ziet de wereld door een "Universele Bril"

Een groot probleem in de beurswereld is dat alles anders lijkt. Een aandeel dat $100 kost, ziet er heel anders uit dan een aandeel dat $10 kost. Een groot bedrijf heeft duizenden transacties per seconde, een klein bedrijf slechts een paar.

TradeFM gebruikt een slimme truc: de Universele Bril.
Het kijkt niet naar het absolute bedrag (bijvoorbeeld "$100"), maar naar de verhouding.

In plaats van te zeggen: "De prijs ging met $1 omhoog", zegt het: "De prijs ging met 1% omhoog."
In plaats van te zeggen: "Er werden 1000 aandelen verkocht", zegt het: "Er werd een grote hoeveelheid verkocht, vergelijkbaar met wat we normaal zien."

Hierdoor kan het model alle verschillende aandelen op één manier begrijpen, zonder dat je voor elk aandeel apart een nieuwe les hoeft te geven.

3. Het speelt een spelletje "Wat als?" (De Simulator)

Het mooiste aan TradeFM is dat het niet alleen kijkt naar het verleden, maar ook de toekomst kan simuleren.

Stel je voor dat je een videospelletje speelt. Je hebt een controller (TradeFM) en een game-engine (de marktsimulator).

TradeFM zegt: "Volgende transactie is een kooporder."
De game-engine voert die koop uit in een virtuele wereld.
De prijs in de game verandert.
TradeFM ziet die nieuwe prijs en zegt: "Oké, nu is de volgende transactie..."

Dit gebeurt in een razendsnel tempo. Door dit spelletje te spelen, kan TradeFM bewijzen dat het de beurs echt begrijpt. Als het spelletje echt lijkt op de echte beurs (met dezelfde pieken, dalen en chaos), dan heeft het model de regels van de stad echt begrepen.

4. Waarom is dit belangrijk? (De "Superkracht")

Het is een "Tijdmachine" voor stress: Banken kunnen TradeFM gebruiken om te testen wat er gebeurt als er een grote crisis komt. Ze kunnen duizenden "wat als"-scenario's draaien zonder echt geld te riskeren. "Wat als iedereen tegelijkertijd verkoopt?" TradeFM kan dit simuleren en laten zien hoe de markt reageert.
Het werkt ook in andere landen: Omdat TradeFM de basisprincipes heeft geleerd, werkt het ook in landen die het nooit heeft gezien, zoals China of Japan. Het is alsof je de taal van het Frans hebt geleerd en plotseling ook een beetje Nederlands kunt spreken, omdat de grammatica vergelijkbaar is.
Het creëert nieuwe data: Soms hebben bedrijven te weinig data over bepaalde rare aandelen. TradeFM kan realistische, nep-data genereren die eruit ziet als echt, zodat ze hun systemen kunnen testen.

Samenvattend

TradeFM is een kunstmatige intelligentie die de taal van de beurs heeft geleerd door naar miljarden transacties te kijken. Het negeert de kleine details (zoals of een aandeel nu $10 of $100 kost) en focust op de grote patronen. Hierdoor kan het de beurs niet alleen begrijpen, maar ook realistische toekomstscenario's spelen, wat helpt om de financiële wereld veiliger en slimmer te maken.

Het is alsof we eindelijk een vertaler hebben gevonden die niet alleen woorden vertaalt, maar de gevoelens en intenties achter de woorden begrijpt.

Each language version is independently generated for its own context, not a direct translation.

Titel: TradeFM: Een Generatief Fundamentmodel voor Handelsstromen en Marktmicrostructuur

Auteurs: Maxime Kawawa-Beaudan, Srijan Sood, Kassiani Papasotiriou, Daniel Borrajo, Manuela Veloso (J.P. Morgan AI Research).

1. Het Probleem

Financiële markten zijn complexe adaptieve systemen waarbij de interacties van heterogene deelnemers leiden tot niet-stationaire dynamiek op hoge frequentie. De fundamentele eenheid van deze interacties is de orderflow (de stroom van koop- en verkooporders). Het modelleren hiervan vormt een enorme uitdaging vanwege:

Heterogeniteit: Statistische eigenschappen van handelsdata variëren drastisch tussen activa, liquiditeitsregimes en tijdsperioden.
Deelobservatie: Een individuele marktdeelnemer ziet slechts een deel van de ware marktoestand (niet het volledige orderboek), maar slechts de eigen transactiestroom.
Bestaande beperkingen: Traditionele modellen (zoals Hawkes-processen) maken vaak te sterke parametrische aannames die de "heavy-tailed" aard van marktrendementen niet kunnen vangen. Diepe leermodellen (zoals DeepLOB) vereisen vaak volledige orderboek-snapshots en zijn beperkt tot specifieke activa, wat generalisatie bemoeilijkt.

De kernvraag is: Kan een enkel fundamentmodel een universele representatie van marktmekanica leren uit ruwe, multi-asset orderflow-data, zelfs zonder toegang tot het volledige orderboek?

2. Methodologie

TradeFM is een 524-miljoen parameter decoder-only Transformer die is voorgetraind op meer dan 10 miljard tokens afkomstig van meer dan 9.000 Amerikaanse aandelen. De aanpak bestaat uit vier pijlers:

A. Schaal-invariante Feature Engineering

Om generalisatie over verschillende activa mogelijk te maken, worden ruwe data (dollars, aandelen, seconden) omgezet in schaal-invariante, genormaliseerde features:

Interarrival Time: Tijd tussen gebeurtenissen.
Log-getransformeerde Volume: Om de zware staartverdeling van ordergroottes te comprimeren.
Genormaliseerde Prijsdiepte: De afstand van een order tot de geschatte mid-prijs, uitgedrukt in basispunten (bps) in plaats van ticks. Dit maakt activa met verschillende prijzen vergelijkbaar.
Relatieve Prijsniveaus: Huidige prijs ten opzichte van de openingsprijs.
Mid-prijs Schatting: Omdat de ware mid-prijs niet direct zichtbaar is in transactiedata, wordt een Exponentially-Weighted VWAP (EW-VWAP) gebruikt. Dit weegt grotere en recentere transacties zwaarder, wat een stabielere benchmark biedt dan simpele rolling averages.

B. Universele Tokenisatie

De heterogene, multi-feature gebeurtenisstroom wordt gemapt naar een discrete sequentie:

Binning: Continue features worden gediscretiseerd in bins (kwantiel-based voor prijzen, logaritmisch voor volume/tijd).
Compositie: De bin-indexen van verschillende features (prijsdiepte, volume, tijd, actie, kant) worden gecombineerd tot één enkel composite integer-token ( $i_{trade}$ ) via een gemengd-basis getalsysteem.
Context: Het model ontvangt ook contextuele features als input (liquiditeitsbin, prijsniveauniveau, en een indicator voor markt- vs. deelnemersniveau), maar voorspelt alleen het volgende trade-token.

C. Architectuur

TradeFM is gebaseerd op de Llama-architectuur met moderne verbeteringen:

Grouped-Query Attention (GQA): Voor efficiëntere inferentie.
Rotary Positional Encoding (RoPE): Voor betere generalisatie op lange sequenties.
Training: Voorgetraind op 10,7 miljard tokens (US-equities) met een temporele hold-out strategie.

D. Gesloten-lus Marktsimulator

Om de realisme van de gegenereerde data te evalueren, wordt TradeFM gekoppeld aan een deterministische marktsimulator:

TradeFM voorspelt een volgend handelsgebeurtenis.
De simulator voert deze uit tegen een virtueel orderboek (volgens prijs-tijd prioriteit).
De bijgewerkte marktoestand (mid-prijs, orderboek) wordt teruggevoerd als context voor de volgende voorspelling.
Dit creëert een dynamische cyclus die tweede-orde effecten zoals prijsimpact kan modelleren.

3. Belangrijkste Bijdragen

TradeFM: Het eerste grote generatieve fundamentmodel voor marktmicrostructuur dat leert van miljarden transacties over duizenden activa, zonder activaspecifieke kalibratie.
Leren van Deelobservaties: In tegenstelling tot eerdere modellen die het volledige orderboek vereisen, leert TradeFM uitsluitend van de gebeurtenisstroom die beschikbaar is voor een enkele deelnemer (Level 3 trade messages).
Schaal-invariante Representatie: Een end-to-end methode die ruwe data omzet in een uniforme sequentie, waardoor één model kan generaliseren over diverse liquiditeitsregimes en activa.
Gesloten-lus Simulatie: Integratie met een simulator om "stylized facts" te reproduceren en agents te trainen.

4. Resultaten

TradeFM werd geëvalueerd tegen baselines zoals een Zero-Intelligence (ZI) agent en Compound Hawkes-processen.

Reproductie van Stylized Facts:
- Heavy Tails: De gegenereerde rendementen vertonen de kenmerkende zware staarten (leptokurtosis) van echte markten.
- Volatiliteitsclustering: De autocorrelatie van absolute rendementen neemt langzaam af, wat de clustering van volatiliteit correct weergeeft.
- Afwezigheid van Autocorrelatie: De autocorrelatie van log-rendementen is verwaarloosbaar (behalve op zeer korte lags), consistent met de efficiënte-markthypothese.
Kwantitatieve Fidelity:
- TradeFM bereikt 2–3 keer lagere distributiefouten (gemeten via Kolmogorov-Smirnov en Wasserstein-afstand) dan Compound Hawkes-baselines voor variabelen zoals ordervolume, interarrival-tijden en orderboek-imbalance.
Zero-Shot Generalisatie:
- Het model, getraind op US-data, generaliseert zero-shot naar niet-getrainde APAC-markten (China en Japan). Ondanks fundamentele verschillen in marktmechanismen (bijv. batch-auctions in Japan, prijslimieten in China), is de degradatie in perplexiteit matig, wat aantoont dat het model universele principes van marktdynamiek heeft geleerd.
Controleerbaarheid:
- Het model reageert intuïtief op conditioning-tokens (bijv. het genereren van volatielere stromen voor het totale marktbeeld versus een individuele deelnemer).

5. Betekenis en Toekomstperspectief

TradeFM bewijst dat schaal-invariante handelsrepresentaties transfererbare structuren in marktmicrostructuur kunnen vastleggen. Dit opent nieuwe paden voor:

Synthetische Data Generatie: Het creëren van privacy-bewuste, realistische datasets voor illiquide activa, wat backtesting en risicobeheer verbetert zonder gevoelige data te delen.
Stress Testing: Het simuleren van markten onder tegenstrijdige scenario's (bijv. injectie van anomalieën) om systemische risico's te testen.
Lerende Handelsagents: Het bieden van een hoogwaardige, interactieve omgeving voor het trainen van Reinforcement Learning-agents die optimale uitvoerstrategieën kunnen leren.

Kortom, TradeFM markeert een verschuiving van handmatig ontworpen, activa-specifieke modellen naar een universeel, datagedreven fundamentmodel voor financiële markten.