Technische Samenvatting: AutoRedTrader

Probleemstelling

Financiële agenten op basis van Large Language Models (LLM) vertrouwen steeds meer op een combinatie van numerieke marktdata en tekstuele signalen (bijvoorbeeld nieuwskoppen, analistenrapporten) om sequentiële handelsactiviteiten en aandelenprognoses uit te voeren. Hoewel bestaande red-teaming-frameworks veiligheid en jailbreaking aanpakken, slagen ze er vaak niet in de specifieke kwetsbaarheden van financiële agenten voor subtiele financiële desinformatie te vangen. In tegenstelling tot expliciete leugens, manifesteert financiële desinformatie zich vaak als kleine tekstuele perturbaties – subtiele verschuivingen in sentiment, framing, nadruk of numerieke waarden – die dicht bij authentieke informatie blijven. Deze subtiele bewerkingen kunnen de redenering van een agent over risico, momentum of fundamentele waarden aanzienlijk veranderen, wat leidt tot divergentie in handelsbeslissingen over een lange horizon.

Huidige simulatie-frameworks (bijvoorbeeld FinMem, FinCon) gaan er doorgaans van uit dat upstream-filtering of beveiligingsmodules tijdens de implementatie desinformatie zullen opvangen, waardoor de specifieke faalmodus van subtiele, adversariële tekstuele perturbaties ongemeten blijft. Bovendien lokaliseren bestaande red-teaming-methoden falen vaak tot individuele outputs, waardoor ze de cumulatieve positieafwijking missen die optreedt tijdens sequentiële besluitvormingsprocessen.

Methodologie: AutoRedTrader

De auteurs stellen AutoRedTrader voor, een autonoom red-teaming-framework dat is ontworpen om LLM-gebaseerde financiële agenten op de proef te stellen door synthetische, op financiën gerichte desinformatie te genereren en in te voegen. Het systeem werkt als een gesloten-lusproces binnen een simulatieomgeving van een Partially Observable Markov Decision Process (POMDP).

1. Framework-architectuur

Het framework bestaat uit drie primaire componenten die in een lus met elkaar interageren:

• MisGen (Adversariële Desinformatie Generator): Genereert subtiele, op financiën gerichte tekstuele perturbaties.
• Financiële Agent (FinAgent): Een LLM-gebaseerde agent die marktdata en nieuws verwerkt om handelsbeslissingen te nemen (Kopen, Verkopen, Houden).
• Time-Series Evidence Provider: Een optionele module die gestructureerde temporele bewijsvoering uit historische marktdata levert om de robuustheid van de agent te testen.

2. Strategie voor Desinformatiegeneratie (MisGen)

De kerninnovatie ligt in de generatiestrategie, die de perturbatieruimte $\Phi$ decomposeert in drie complementaire sub-ruimten, geleid door theorieën uit het gedragsfinanciële domein:

• Cognitieve Bias-perturbatie ($\Phi_{Bias}$): Manipuleert de systeemprompt of context van de agent om specifieke gedragsbiases op te wekken (Overmoed, Verliesaversie, Ankeren, Herden, Bevestigingsbias). Dit richt zich op de prior van de redenering van de agent in plaats van op de nieuwsinhoud zelf.
• Semantische-inhoudsperturbatie ($\Phi_{Minor}$): Past subtiele bewerkingen toe op de nieuwsinhoud $n_i$. Dit omvat:
  • Omdraaien: Omkeren van marktimplicaties (bijvoorbeeld positief naar negatief).
  • Sentimentverschuiving: Aanpassen van de toon zonder feiten te veranderen.
  • Numerieke bewerkingen: Aanpassen van belangrijke financiële cijfers terwijl de trendrichting behouden blijft.
  • Temporele/Concept/Entiteitsverschuivingen: Het introduceren van misaligneringen in tijd, metrieken of toewijzing.
• Stijlgecontroleerde herschrijving ($\Phi_{Rewrite}$): Herformuleert de geperturbeerde inhoud in specifieke journalistieke registers (Academische of Nieuwsstijl) om detectie door standaardfilters te ontlopen, terwijl de semantische gelijkenis met het origineel behouden blijft.

3. Gesloten-lus Feedback en Strategie-selectie

AutoRedTrader hanteert een geschiedenisbewuste strategie-selectiemechanisme. Na elke simulatieronde worden de Cumulatieve Rendement (CR) en de Besluit-impactgeschiedenis van de agent teruggekoppeld naar MisGen.

• Strategieën die eerder leidden tot besluitwijzigingen, krijgen hogere bemonsteringskansen toegewezen (gemodelleerd via een Polya-urnproces).
• Rendementsafhankelijke aanpassingen worden toegepast: succesvolle rendementen verhogen de kans op het opwekken van Overmoed, terwijl verliezen Verliesaversie verhogen.
• Een filterfase zorgt ervoor dat gegenereerde desinformatie hoge semantische gelijkenis ($\tau_{sim}$) en lage detecteerbaarheid ($\tau_{det}$) drempels voldoet voordat deze wordt ingevoegd.

4. Robuustheidsanalyse via Temporele Gronding

Om robuustheid te evalueren, introduceert het framework een Time-Series-Informed Grounding-instelling. In plaats van tekst te vervangen, levert deze module gestructureerde temporele bewijsvoering afgeleid van historische marktfensters (bijvoorbeeld volatiliteit, drawdown, trenddivergentie) aan de agent. Dit stelt de agent in staat de consistentie tussen binnenkomende tekstuele signalen en historische marktdynamiek te beoordelen, en test of dergelijke bewijsvoering beslissingen kan stabiliseren tegen misleidende narratieven.

Belangrijkste Bijdragen

1. Generatie van Financiële Desinformatie: Een nieuwe methode voor het genereren van subtiele, op financiën gerichte tekstuele perturbaties, geleid door gedragsbiases en feedback van de agent, die verder gaat dan generieke adversariële prompts.
2. Gesloten-lus Financiële Agent-simulatie: Een op POMDP gebaseerd simulatieframework waarbij feedback van de agent de generatie van desinformatie iteratief versterkt, waardoor cumulatieve besluitafwijking wordt vastgelegd in plaats van geïsoleerde outputfouten.
3. Temporele Gronding voor Robuustheid: Een onderzoek naar of gestructureerde historische marktbewijsvoering kan dienen als grondingsmechanisme om overreactie van de agent op misleidende tekstuele signalen te verminderen.

Experimentele Resultaten

Het framework werd geëvalueerd op 60 dagen aan Bitcoin (BTC) transactiedata (maart–april 2023) met behulp van een op retrieval gebaseerde handelsagent.

• Aanvalprestaties: AutoRedTrader behaalde de hoogste Attack Success Rate (ASR) van 26,67% en een Misinformation Exposure Rate (MER) van 69,00%. Dit presteerde beter dan algemene benchmarks (AutoRedTeamer, Pliny, LIFE) en toonde aan dat het louter ophalen van desinformatie onvoldoende is; de desinformatie moet beslissingsrelevant zijn en aansluiten bij de redenering van de agent.
• Impact op Rendementen: De aanval verlaagde het cumulatieve rendement van de agent van een schone baseline van +23,50% naar +22,27%, wat aangeeft dat desinformatie handelsresultaten negatief kan beïnvloeden.
• Robuustheidsbevindingen: Wanneer de Time-Series-Informed Grounding-instelling werd ingeschakeld, daalde de effectiviteit van de aanval aanzienlijk (MER verlaagd naar 41,66%, ASR naar 18,33%), wat suggereert dat historische marktbewijsvoering agenten helpt misleidende signalen te filteren.
• Ablatiestudies: Het verwijderen van een component (Bias, Minor-perturbaties, Herschrijving, Feedback of Filtering) resulteerde in een lagere ASR, wat bevestigt dat alle modules essentieel zijn voor het genereren van ophaalbare en beslissings-effectieve desinformatie.

Betekenis en Claims

Het paper claimt dat AutoRedTrader een kritieke kwetsbaarheid blootlegt in op retrieval gebaseerde financiële agenten: ze zijn vatbaar voor subtiele, traject-veranderende desinformatie die standaarddetectie ontwijkt. Het werk benadrukt dat huidige robuustheidsaannames, die vertrouwen op upstream-filtering, ontoereikend zijn voor de genuanceerde aard van financiële desinformatie.

Door aan te tonen dat manipulatie van gedragsbiases en kleine tekstuele perturbaties de prestaties van agenten systematisch kunnen verslechteren, pleiten de auteurs voor de noodzaak van defensieve evaluatie en robustheidstesten bij de ontwikkeling van financiële AI. De resultaten suggereren dat het integreren van temporele gronding – het gebruik van historische marktdata om tekstuele signalen te valideren – kan dienen als een effectief mechanisme om beslissingen van agenten te stabiliseren en de weerstand tegen adversariële narratieven te verbeteren. De auteurs benadrukken dat hun werk strikt voor onderzoeks- en defensieve doeleinden is om veiliger modelontwerp te informeren, en erkennen het dual-use-risico van de gegenereerde technieken.