EventCast: Hybrid Demand Forecasting in E-Commerce with LLM-Based Event Knowledge

Technische Samenvatting: EventCast

1. Probleemstelling (The Problem)

Vraagvoorspelling (demand forecasting) is cruciaal voor e-commerce voorraadbeheer en logistiek. Traditionele tijdreeksmodellen (zoals Transformers of statistische modellen) hebben echter grote moeite met de extreme volatiliteit die ontstaat tijdens event-gedreven perioden. Dit omvat:

• Niet-stationaire patronen: Flash sales, promotiecampagnes en feestdagen veroorzaken plotselinge pieken of dalen die niet uit historische data alleen kunnen worden afgeleid.
• Ongestructureerde kennis: Informatie over toekomstige evenementen (zoals specifieke kortingsregels of culturele nuances van een feestdag) staat vaak opgeslagen in ongestructureerde tekst met typefouten, afkortingen en complexe logica.
• Gebrek aan interpreteerbaarheid: Veel moderne deep learning-modellen zijn "black boxes", waardoor operationele managers niet begrijpen waarom een voorspelling plotseling verandert.
• Beperkingen van huidige LLM's: Hoewel Large Language Models (LLM's) goed zijn in tekst, zijn ze slecht in directe numerieke voorspellingen (gebrek aan precisie en temporele consistentie).

2. Methodologie (Methodology)

De auteurs introduceren EventCast, een modulair framework dat de kracht van LLM's voor redeneren scheidt van de kracht van gespecialiseerde modellen voor numerieke voorspelling. Het systeem maakt gebruik van een dual-tower architectuur:

• LLM-gebaseerde Event Reasoning (De "Event Tower"):

  • In plaats van de LLM direct te laten voorspellen, wordt een bevroren (frozen) LLM gebruikt als een "redeneer-agent".
  • De LLM krijgt toegang tot een Expert Database met ongestructureerde bedrijfsdata (campagnekalenders, feestdagen, kortingsregels).
  • Via prompt engineering vertaalt de LLM deze data naar een gestructureerde, interpreteerbare tekstuele samenvatting (bijv. "Ramadan: zorg voor vraagpiek voor het verbreken van het vasten, gevolgd door een daling tijdens de feestdag").
  • Deze samenvattingen worden omgezet in learnable embeddings.

• Historische Tijdreeksverwerking (De "Historical Tower"):

  • Een Transformer-encoder verwerkt multivariate historische data (zoals eerdere verkoopvolumes en categorie-kenmerken) om trends en seizoensgebondenheid te vangen.

• Feature Alignment & Fusion:

  • De embeddings van de tekstuele samenvatting en de historische data worden samengevoegd in een gedeelde latente ruimte.
  • Het model splitst de uiteindelijke voorspelling in twee componenten: een trend-component (gebaseerd op historie) en een event-component (gebaseerd op de LLM-redenering). De uiteindelijke voorspelling is een gewogen combinatie van beide ($\hat{y} = \lambda \cdot \hat{y}_{trend} + (1-\lambda) \cdot \hat{y}_{event}$).

3. Belangrijkste Bijdragen (Key Contributions)

• Ontkoppeling van Redeneren en Voorspellen: Door LLM's alleen te gebruiken voor semantische extractie, blijft het systeem lichtgewicht, efficiënt en nauwkeurig in numerieke output.
• Gebruik van Ongestructureerde Data: Het systeem kan moeiteloos omgaan met "rommelige" bedrijfsdata (typo's, afkortingen zoals "B2G1") dankzij de wereldkennis van de LLM.
• Interpreteerbaarheid: De tekstuele samenvattingen die de LLM genereert, bieden een menselijk leesbare verklaring voor de voorspelling, wat essentieel is voor vertrouwen in industriële omgevingen.
• Schaalbaarheid: Het framework is modulair; men kan eenvoudig een betere LLM of een ander voorspellingsmodel inbouwen zonder het hele systeem opnieuw te hoeven trainen.

4. Resultaten (Results)

Het model is getest op echte e-commerce data uit 4 landen en 160 regio's over een periode van 10 maanden.

• Algemene prestaties: EventCast presteert significant beter dan state-of-the-art modellen zoals ChronosX, iTransformer en Time-LLM.
• Event-gedreven perioden: Tijdens kritieke perioden (zoals grote sales of religieuze feestdagen) is het verschil het grootst. EventCast verminderde de MAE (Mean Absolute Error) met 57,0% en de MSE (Mean Squared Error) met 83,3% vergeleken met de beste industriële baseline.
• Horizon-effect: De verbetering is het grootst bij langere voorspellingshorizonten (T+4), omdat de kennis over toekomstige evenementen daar de onzekerheid van de historische trend het beste compenseert.

5. Betekenis (Significance)

EventCast bewijst dat de toekomst van industriële tijdreeksvoorspelling niet ligt in het vervangen van numerieke modellen door LLM's, maar in het hybride gebruik ervan. Het biedt een praktisch, schaalbaar en uitlegbaar systeem dat direct in productie kan worden ingezet om de operationele efficiëntie (voorraad, personeel, logistiek) in de dynamische wereld van e-commerce drastisch te verbeteren.