Technische Samenvatting: Voorspellen met LLM's: Verbeterde Generalisatie door Feature Steering

Probleemstelling

De toepassing van Large Language Models (LLM's) op voorspellingsopdrachten staat voor een cruciale uitdaging: het onderscheid maken tussen werkelijke generaliseerbare redenering en het louter ophalen van gememoriseerde uitkomsten uit de trainingsdata. Wanneer een LLM wordt gevraagd een gebeurtenis te voorspellen die binnen zijn trainingsvenster plaatsvond, kan het model simpelweg de historische uitkomst herinneren in plaats van te redeneren op basis van de informatie die op het moment dat de voorspelling had moeten worden gedaan, beschikbaar was. Dit fenomeen, bekend als look-ahead bias (LAB), resulteert in correcte antwoorden die geen generaliseerbaarheid bezitten en slecht presteren op observaties buiten de steekproef (out-of-sample).

Bestaande mitigatiestrategieën, zoals chronologisch beperkte modellen of anonimisering op invoerniveau, gaan vaak ten koste van de modelcapaciteit of zijn onvoldoende tegen moderne trainingsparadigma's. Bovendien, hoewel temporele bewustheid geïnduceerd kan worden via system prompts of fine-tuning, blijven de interne representaties die deze gedragingen ondersteunen — en de vraag of deze overeenkomen met afzonderlijke, causale features — slecht begrepen.

Methodologie

De auteurs maken gebruik van Sparse Autoencoders (SAEs) om dichte transformer-activaties te deconstrueren naar ijle (sparse), menselijk interpreteerbare features. Deze aanpak maakt het mogelijk om specifieke interne representaties die geassocieerd zijn met temporeel redeneren te identificeren en causaal te interveniëren op.

1. Feature Discovery:

   • De auteurs gebruiken voorspellingsmarktgegevens (specifiek van Kalshi) als grondwaarheid voor historische verwachtingen.
   • Ze construeren prompts met specifieke "knowledge cutoff"-data (bijv. "Vandaag is {Datum}...") en vragen het model om uitkomsten te voorspellen.
   • Ze identificeren twee contrasterende gedragsmodi:
     • Time-Aware Reasoning: Het model selecteert de marktfavoriet die beschikbaar was op de cutoff-datum.
     • Look-Ahead Bias (LAB): Het model selecteert de uiteindelijke gerealiseerde uitkomst, wat impliceert dat er toegang is tot informatie na de cutoff.
   • Door de activatiesnelheden van SAE-features tussen deze twee modi te contrasteren, brengen zij kandidaat-features in kaart die bij elk gedrag horen.

2. Causale Interventie (Steering):

   • Gebruikmakend van de formule $\hat{x}_{steered} = W_{dec} (z + \alpha e_j) + b_{dec}$, versterken de auteurs specifieke feature-activaties ($z$) door een sturende magnitude ($\alpha$) toe te voegen vóór de decodering.
   • Deze interventie wordt toegepast tijdens de generatie om te testen of het versterken van een feature het gedrag van het model causaal verschuift.

3. Evaluatie:

   • Discovery Setting: Voorspellingsmarktvragen (Kalshi).
   • Generalization Setting: Twee out-of-domain, vrije vorm voorspellingsopdrachten waar look-ahead bias identificeerbaar is in natuurlijke tekst in plaats van vaste meerkeuzeantwoorden:
     • M&A Forecasting: Het voorspellen van overname-doelwitten één jaar voorafgaand aan de publieke aankondiging.
     • Pharmaceutical Forecasting: Het voorspellen van groeifactoren voor specifieke bedrijven op basis van informatie die beschikbaar was tot een specifieke datum.
   • Utility Check: De auteurs monitoren de prestaties op MMLU-CoT en MMLU-Pro CoT om te waarborgen dat steering de algemene redeneerkracht niet verslechtert.

Belangrijkste Bijdragen en Resultaten

1. Identificatie van Interpreteerbare Temporele Features

De studie identificeert succesvol specifieke SAE-features die correleren met temporele redeneergedragingen.

• Time-Aware Features: Features zoals L40:24283 (geassocieerd met "by and before") en L53:9448 (geassocieerd met "years and dates") werden geïdentificeerd.
• Look-Ahead Bias Features: Features zoals L31:2450 en L53:9987 werden aanvankelijk geïdentificeerd als kandidaten voor LAB.

2. Causale Reductie van Look-Ahead Bias

De kernbevinding is dat het versterken van time-awareness features causaal de look-ahead bias vermindert.

• Wanneer features zoals L40:24283 (Gemma 3) of L48:28961 (Qwen 3.5) werden versterkt, verminderden de modellen hun afhankelijkheid van kennis na de cutoff aanzienlijk in zowel de M&A- als de farmaceutische voorspellingsopdrachten.
• De modellen verschoven van het citeren van toekomstige gebeurtenissen (bijv. "Goldcorp werd in 2019 overgenomen") naar redeneren op basis van het strategische landschap van de prompt-datum (bijv. "Kinross is een logisch doelwit op basis van 2018-data").
• Cruciaal is dat deze reductie in bias plaatsvond zonder de algemene bruikbaarheid te verslechteren, zoals gemeten door stabiele prestaties op MMLU-benchmarks.

3. Asymmetrie van Feature Steering

Het paper rapporteert een opvallende asymmetrie in de effectiviteit van steering:

• Het versterken van time-awareness features onderdrukt LAB effectief.
• Het versterken of onderdrukken van kandidaat look-ahead-bias features produceerde geen vergelijkbaar effect. De auteurs suggereren dat LAB een standaardtoestand van het model kan zijn wanneer het niet actief wordt beperkt door time-aware features, in plaats van een afzonderlijke feature die gemakkelijk "uitgezet" kan worden.

4. Cross-Task Generalisatie

De geïdentificeerde features via voorspellingsmarktgegevens generaliseerden effectief naar geheel andere domeinen (M&A en Pharma), wat aantoont dat deze temporele representaties geen dataset-artefacten zijn, maar fundamentele componenten van het redeneerproces van het model.

Betekenis en Claims

Het paper claimt de kennis over LLM-voorspellingen te verrijken door verder te gaan dan het behandelen van look-ahead bias als een simpel gevolg van memorisatie. In plaats daarvan kaderen zij LAB als een interne gedragstendens die geïdentificeerd en causaal verschoven kan worden door middel van feature steering.

• Interpreteerbaarheid: Het werk toont aan dat temporeel redeneren wordt ondersteund door specifieke, interpreteerbare features binnen de latente ruimte van het model.
• Causale Controle: Het levert bewijs dat deze features gemanipuleerd kunnen worden om meer historisch gegronde redenering te induceren, wat een potentieel mechanisme biedt om de betrouwbaarheid van LLM's in voorspellingsopdrachten te verbeteren.
• Beperkingen en Toekomstige Richtingen: De auteurs zijn bescheiden in hun claims en stellen dat feature steering geen "volledige op zichzelf staande oplossing" is. Ze merken op dat sterke interventies uiteindelijk de kwaliteit van het model kunnen verslechteren. Zij stellen voor dat de meest veelbelovende weg vooruit het combineren is van matig sterke interne steering met andere methoden, zoals supervised fine-tuning (SFT), reinforcement learning (RL) voor time awareness, unlearning-benaderingen en verbeterde prompt-constructie.

Samenvattend stelt het paper vast dat er interpreteerbare temporele features bestaan in LLM's en dat het versterken van deze features causaal de look-ahead bias kan verminderen, waardoor de generalisatie van voorspellingsmodellen naar toekomstige observaties wordt verbeterd.