📊 statistics

Neural Networks for Parameter Estimation of the Discretely Observed Hawkes Process

Dit artikel stelt een computationeel efficiënte, likelihood-vrije methode voor die gebruikmaakt van volledig verbonden neurale netwerken getraind op gesimuleerde data om parameters van discreet geobserveerde Hawkes-processen te schatten, waarbij een nauwkeurigheid wordt bereikt die vergelijkbaar is met bestaande benaderende likelihood-schatters, terwijl de rekentijd aanzienlijk wordt verminderd en snelle onzekerheidskwantificering mogelijk wordt gemaakt.

Oorspronkelijke auteurs: Jason J. Lambe, Feng Chen, Tom Stindl, Tsz-Kit Jeffrey Kwan

Gepubliceerd 2026-06-23

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jason J. Lambe, Feng Chen, Tom Stindl, Tsz-Kit Jeffrey Kwan

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: De "Blinde Telling"

Stel je voor dat je een drukke koffiebar probeert te begrijpen. Je wilt precies weten wanneer elke klant de deur binnenstapte en hoeveel nieuwe klanten er arriveerden als gevolg van de opwinding van de vorige gasten (zelfexcitatie). Dit is wat een "Hawkes-proces" modelleert: gebeurtenissen die meer gebeurtenissen triggeren, zoals aardbevingen die naschokken veroorzaken of een virale tweet die meer shares uitlokt.

Normaal gesproken heb je om de regels van deze koffiebar te begrijpen, een perfecte video-opname nodig van elke aankomsttijd. Maar in de echte wereld heb je vaak alleen een dagelijks logboek. Je weet dat er tussen 9:00 en 10:00 uur 15 mensen kwamen en dat er tussen 10:00 en 11:00 uur 20 kwamen. Je weet niet exact wanneer ze arriveerden, alleen het totaal aantal per uur.

In de statistiek wordt dit discrete observatie of "intervalcensurering" genoemd. Het probleem is dat wanneer je alleen deze aantallen hebt, de wiskunde die nodig is om de onderliggende regels (de parameters) te achterhalen, onmogelijk complex wordt. Het is alsof je een puzzel van 1.000 stukjes probeert op te lossen terwijl je alleen de afbeelding op de doos hebt gekregen, maar de stukjes zitten allemaal door elkaar in een zak.

De Oude Oplossingen: Traag of Vertekend

Wetenschappers hebben geprobeerd dit eerder op te lossen, maar liepen tegen een muur aan:

De "Raad-en-Controleer"-methode: Sommigen probeerden de ontbrekende tijden te raden en daarna de gok te verfijnen. Dit is snel, maar leidt vaak tot het verkeerde antwoord (bias).
De "Supercomputer"-methode: Anderen ontwikkelden een methode die ongelooflijk nauwkeurig is, maar zoveel rekenkracht vereist dat het is alsof je een kernreactor gebruikt om een enkel ei te koken. Het werkt, maar het is te traag voor gebruik in realtime.

De Nieuwe Oplossing: De "AI-Coach"

De auteurs van dit artikel stellen een slimme workaround voor. In plaats van telkens de onmogelijke wiskundige vergelijking op te lossen wanneer je nieuwe gegevens krijgt, trainen ze een Neuraal Netwerk (NN) — een type kunstmatige intelligentie — om te fungeren als een ervaren coach.

Zo hebben ze de coach getraind:

De Wereld Simuleren: Ze hebben duizenden keren een computersimulatie van de koffiebar (het Hawkes-proces) gemaakt. Ze kenden de "ware regels" voor elke simulatie.
Het Logboek Maken: Voor elke simulatie deden ze alsof ze alleen het dagelijkse logboek hadden (de aantallen), waarbij ze de exacte aankomsttijden verborgen.
De "Snelle Schatting"-truc: Om de AI te helpen leren, gebruikten ze een simpele, snelle truc om een ruwe schatting van de ontbrekende tijden te maken. Denk hierbij aan de coach die naar het logboek kijkt en zegt: "Als er 15 mensen in een uur kwamen, laten we dan doen alsof ze gelijkmatig verdeeld arriveerden." Dit is niet perfect, maar het is een goed startpunt.
Training: Ze voerden de AI de "ruwe schatting" en de "logboekantallen" en vroegen de AI om de "ware regels" te voorspellen waarmee ze waren begonnen. De AI leerde het patroon: "Wanneer het logboek er zo uitziet als X en mijn ruwe schatting is Y, dan zijn de ware regels Z."

De Magie van Samenvattende Statistieken

De belangrijkste innovatie van het paper is wat ze de AI voerden. In plaats van de AI het volledige logboek te geven (wat enorm groot kan zijn), gaven ze het een Samenvattende Statistiek.

Stel je voor dat je het weer probeert te voorspellen. Je hoeft niet de temperatuur van elk enkel moment van de dag te weten; je hebt alleen de gemiddelde temperatuur, de hoogste temperatuur en de laagste temperatuur nodig.

De auteurs creëerden een "samenvatting" van de gegevens die de belangrijkste aanwijzingen over de regels van het proces vastlegt.
Omdat deze samenvatting klein en eenvoudig is, kan de AI het zeer snel leren.
Eenmaal getraind, kan de AI naar een nieuw logboek kijken, de eenvoudige samenvatting berekenen en direct het antwoord uitspugen.

Waarom Dit een Gamechanger is

Het paper claimt drie overwinningen:

Snelheid: De AI is "geamortiseerd". Dit betekent dat het zware werk (de training) slechts één keer gebeurt. Daarna kost het maken van een voorspelling een fractie van een seconde. Het is alsof je één keer een kaart koopt en daarna elke stad direct kunt navigeren, in plaats van elke keer een nieuwe kaart te moeten tekenen wanneer je het huis verlaat.
Nauwkeurigheid: Ondanks dat de AI werd getraind op "ruwe schattingen", presteert hij net zo goed als de "Supercomputer"-methode (PMMH) die eerder werd genoemd.
Onzekerheid: De AI geeft niet slechts één antwoord; hij geeft een bereik. Hij kan zeggen: "Ik ben 95% zeker dat de regel tussen X en Y ligt." Dit is cruciaal om te weten hoeveel je de resultaten kunt vertrouwen.

Real-World Tests

De auteurs testten deze methode op twee scenario's uit de echte wereld:

Mazelen in Tokio: Ze analyseerden de wekelijkse aantallen mazelengevallen.
Salmonella in Australië: Ze analyseerden de wekelijkse aantallen Salmonella-gevallen, rekening houdend met seizoensgebonden veranderingen (zoals de piek in de griep tijdens de winter).

In beide gevallen produceerde de AI-methode resultaten die zeer vergelijkbaar waren met de meest nauwkeurige bestaande methoden, maar deed het veel sneller.

De Kernboodschap

Dit paper introduceert een manier om kunstmatige intelligentie te gebruiken om een moeilijk wiskundig probleem op te lossen dat normaal gesproken enorme rekenkracht vereist. Door een AI te trainen op gesimuleerde gegevens en een slimme "samenvatting" van de informatie te gebruiken, hebben ze een tool gecreëerd die snel, nauwkeurig en klaar is om met real-world data om te gaan waarbij we alleen de totalen kennen, en niet de exacte timing van de gebeurtenissen.

Technische Samenvatting: Neurale Netwerken voor Parameterchatting van de Discreet Geobserveerde Hawkes-proces

Probleemstelling
Het Hawkes-proces is een zelf-exciterend puntproces dat breed wordt gebruikt om gebeurtenissequenties te modelleren in velden zoals seismologie, financiën en epidemiologie. Hoewel parameterschatting goed gevestigd is voor continu geobserveerde data via Maximum Likelihood (ML) of Expectation Maximisation (EM), worden deze methoden onhaalbaar wanneer het proces slechts discreet wordt geobserveerd (interval-gecensureerd). In deze setting zijn alleen de totale gebeurtenisaantallen binnen disjuncte tijdsintervallen bekend, waardoor de likelihood-functie analytisch onhandelbaar wordt.

Bestaande benaderingen voor dit probleem kampen met een afruil tussen nauwkeurigheid en computationele efficiëntie. Benaderende methoden, zoals die van Shlomovich et al. (2022b) en Schneider en Weber (2023), proberen latente gebeurtijden te reconstrueren maar vertonen aanzienlijke bias. Daartegenover staan zeer nauwkeurige methoden zoals het Pseudo-Marginal Metropolis–Hastings (PMMH) algoritme (Chen et al., 2025), die computationeel te kostbaar zijn, met name voor niet-Markoviaanse processen of grote datasets. Er is behoefte aan een estimator die een nauwkeurigheid biedt die vergelijkbaar is met PMMH, maar met aanzienlijk lagere computationele kosten.

Methodologie
De auteurs stellen een likelihood-vrije benadering voor die gebruikmaakt van een volledig verbonden, feed-forward neuraal netwerk (NN) om de parameters van het Hawkes-proces te schatten op basis van samenvattende statistieken van telgegevens. De methodologie bestaat uit drie kerncomponenten:

Constructie van Samenvattende Statistieken:
In plaats van ruwe telsequenties in het netwerk te voeden, construeren de auteurs een laag-dimensionale samenvattende statistiek gebaseerd op "naïeve" imputatie-schattingen.
- Enkele Imputatie-schatting: Voor het Markoviaanse geval (exponentiële kernel) wordt een latent steekproefpad geconstrueerd door gebeurtenissen uniform binnen hun geobserveerde intervallen te verdelen. De Maximum Likelihood Estimate (MLE) van de Hawkes-parameters wordt vervolgens berekend vanuit dit geïmputeerde pad. Dit dient als een zeer informatieve, minimum-dimensie samenvattende statistiek.
- Negative Binomial Autoregression (NBAR): Voor niet-Markoviaanse (niet-exponentiële) kernels wordt de imputatie-schatting aangevuld met NBAR-parameters. Een NBAR-model wordt gefit op de geobserveerde tellingen om de afhankelijkheidsstructuur en overdispersie te vangen, wat extra informatie biedt met betrekking tot de offspring-dichtheid.
- Aanpasbaarheid: De samenvattende statistiek is ontworpen om ongelijke grootte van censurintervallen en tijdvariërende achtergrondrates te kunnen verwerken door rates te normaliseren en stuksgewijze benaderingen voor achtergrondvolumes te gebruiken.
Architectuur en Training van het Neurale Netwerk:
- Input/Output: Het NN neemt de samenvattende statistiek als input en geeft een vector uit die de posterieure mediaan (punt-schatting) en de bovenste en onderste $\tau$ -kwantielen bevat voor elke parameter. Dit maakt simultane punt-schatting en Bayesiaanse onzekerheidskwantificering mogelijk.
- Verliesfunctie: Het netwerk wordt getraind met een kwantielverliesfunctie (pinball loss) om specifieke kwantielen van de posterieure distributie $p(\theta | s)$ te targeten.
- Amortisatie-inferentie: Het NN wordt eenmaal getraind op een grote gesimuleerde dataset (parameter-observatie paren gegenereerd uit een prior). Zodra het getraind is, voert het netwerk inferentie uit op nieuwe data via een enkele forward pass, waardoor de kosten van inferentie verwaarloosbaar zijn, ongeacht de lengte van het steekproefpad.
Prior Verdeling:
De auteurs maken gebruik van een "inverse softplus normal" (ISN) prior voor positieve parameters en een logit-normale prior voor de branching ratio $\eta$ . Deze keuzes zijn praktisch en beogen voldoende massa nabij nul en binnen het eenheidsinterval te plaatsen om de prestaties van het NN bij kleine parametere waarden te verbeteren zonder de generaliseerbaarheid significant te beïnvloeden.

Belangrijkste Resultaten
Simulatie-experimenten demonstreren dat de voorgestelde NN-estimator qua nauwkeurigheid (Mean Squared Error) en dekingskansen vergelijkbaar presteert met de state-of-the-art PMMH-estimator.

Nauwkeurigheid: Voor exponentiële kernels vertonen de NN-schattingen minimale empirische bias en komen ze nauw overeen met de PMMH-resultaten over diverse aggregatieniveaus ( $\Delta$ ).
Efficiëntie: De NN-benadering biedt een drastische reductie in computationele tijd vergeleken met PMMH. Terwijl PMMH iteratieve sampling vereist en computationeel duur is, biedt het NN vrijwel onmiddellijke inferentie na de initiële trainingsfase.
Vergelijking met Alternatieven: De NN-estimator presteert beter dan spectrale methoden (Whittle-estimator) en bevooroordeelde reconstructiemethoden (MCEM) op zowel nauwkeurigheid als stabiliteit.
Reële Toepassing: De methode wordt toegepast op wekelijkse mazelen-data in Tokio en Salmonella-data in New South Wales. De resultaten repliceren bevindingen uit eerdere studies (Cheysson en Lang, 2022; Chen et al., 2025) en modelleren succesvol tijdvariërende achtergrondrates voor seizoensgebonden fluctuaties.

Significantie en Claims
Het artikel claimt dat de voorgestelde methode erin slaagt de kloof te overbruggen tussen de hoge nauwkeurigheid van likelihood-gebaseerde methoden (zoals PMMH) en de computationele efficiëntie die vereist is voor praktische toepassingen.

Amortisatie-inferentie: Een primaire bijdrage is de demonstratie van "amortisatie-inferentie", waarbij de computationele kosten volledig naar de trainingsfase worden verschoven. Dit maakt de analyse van lange steekproefpaden of real-time data mogelijk zonder hertraining of aanvullende modelfitting.
Robuustheid tegen Databeperkingen: De methode gaat om met ongelijke intervallen en tijdvariërende achtergrondrates, waarmee de beperkingen van bestaande spectrale en benaderende likelihood-methoden worden overwonnen.
Onzekerheidskwantificatie: In tegenstelling tot veel benaderende methoden die geen standaardfouten leveren, biedt het NN marginale geloofwaardige intervallen direct via kwantiel-schatting.
Eenvoud: De samenvattende statistiek rust op eenvoudige imputatie en autoregressie, wat minimale expertise vereist voor het ontwerp vergeleken met complexe schema's voor de reconstructie van latente paden.

De auteurs concluderen dat hoewel het PMMH-algoritme de gouden standaard blijft voor nauwkeurigheid, de NN-estimator een zeer schaalbare, snelle en nauwkeurige alternatieve optie biedt voor discreet geobserveerde Hawkes-processen, met name in situaties waar snelheid en schaalbaarheid cruciaal zijn.