Multivariate Representations of Univariate Marked Hawkes Processes

1. Problemstellung

Univariate markierte Hawkes-Prozesse werden häufig zur Modellierung von Phänomenen mit zeitlicher Clusterbildung und markierten Ereignissen verwendet (z. B. Erdbeben-Nachbeben, Verbreitung von Krankheiten, Social-Media-Diffusion, Orderbuch-Dynamik). Ein zentrales Problem bei der Anwendung dieser Modelle ist die Annahme der Mark-Separierbarkeit (Mark-Separability).

• Das Dilemma: Viele praktische Modelle (wie das ETAS-Modell für Erdbeben) nehmen an, dass die Grundintensität (Ground Intensity) und die Verteilung der Marken (z. B. Magnitude) separierbar sind. Das bedeutet, die Intensität lässt sich als Produkt einer zeitlichen Komponente und einer Markenverteilungsfunktion schreiben.
• Die Realität: In vielen realen Szenarien sind diese Komponenten jedoch nicht separierbar. Die Intensität eines Ereignisses hängt komplex von der Historie und den spezifischen Merkmalen vorheriger Ereignisse ab.
• Herausforderung: Nicht-separierbare markierte Hawkes-Prozesse sind zwar theoretisch mächtiger, aber in der Praxis schwer zu implementieren und zu schätzen. Die Parameterschätzung mittels Maximum-Likelihood (MLE) ist rechnerisch sehr aufwendig, und die Konvergenz ist oft langsam. Bestehende Ansätze, die nicht-separierbare Prozesse in multivariate Prozesse überführen, leiden oft unter mangelnder Interpretierbarkeit der Parameter (z. B. bei neuronalen Hawkes-Modellen) oder erfordern nicht-parametrische Schätzungen, die keine Garantien für die Approximationsgüte bieten.

2. Methodik

Die Autoren schlagen einen neuen Ansatz vor, der einen univariaten markierten Hawkes-Prozess durch einen multivariaten unmarkierten Hawkes-Prozess approximiert.

Kernidee:
Der Support der Markenverteilung $M$ wird in eine endliche Anzahl von disjunkten Mengen (Partitionen) $\{A_i\}_{i=1}^K$ unterteilt. Jeder dieser Bereiche $A_i$ wird als eine eigene Komponente (Typ) in einem multivariaten Hawkes-Prozess behandelt.

Modelldefinition:
Die bedingte Intensität des approximierenden multivariaten Prozesses wird definiert als:
$$\lambda_\theta(t, M|H_t) = \sum_{i=1}^K \chi_{A_i}(M) \left( \lambda_{0i} + \sum_{j=1}^K \sum_{t_{\ell,j} < t} \alpha_{ij} g_{ij}(t - t_{\ell,j}; \beta_{ij}) \right)$$
Dabei ist:

• $\chi_{A_i}(M)$ die Indikatorfunktion für die Menge $A_i$.
• $\lambda_{0i}$ die Hintergrundrate für Komponente $i$.
• $\alpha_{ij}$ und $\beta_{ij}$ Parameter für die Kopplung und die Kernfunktion zwischen Komponente $j$ und $i$.
• $g_{ij}$ eine positive Dichtefunktion (z. B. Exponentialverteilung).

Vorteile dieses Ansatzes:

• Parametrisierung: Der Prozess bleibt parametrisch, was die Interpretierbarkeit der Parameter erhält.
• Flexibilität: Durch die Kreuzanregung (Cross-Excitation) zwischen den Komponenten $i$ und $j$ kann die komplexe Interaktion zwischen Grundintensität und Markenverteilung (die Nicht-Separierbarkeit) flexibel modelliert werden, ohne dass eine spezifische funktionale Form für die Nicht-Separierbarkeit angenommen werden muss.
• Granularität: Die Auflösung der Approximation wird durch die Anzahl der Partitionen $K$ gesteuert.

3. Wichtige Beiträge und Theoretische Ergebnisse

Das Paper liefert drei fundamentale theoretische Ergebnisse, die die Validität des Ansatzes belegen:

1. Existenz und $L_1$-Approximation (Satz 3.2):
   Es wird bewiesen, dass für jeden gegebenen realisierten univariaten markierten Hawkes-Prozess (mit bestimmten Regularitätsbedingungen wie Stetigkeit der Dichten und Integrierbarkeit der Kernfunktionen) eine multivariate unmarkierte Darstellung existiert. Der Abstand zwischen der wahren Intensität und der approximierten Intensität in der $L_1$-Norm kann durch Erhöhung der Anzahl der Komponenten $K$ beliebig klein gemacht werden.

   • Bedeutung: Der Ansatz kann eine große Klasse nicht-separierbarer Prozesse beliebig genau approximieren.

2. Stationarität (Satz 3.3):
   Wenn der zugrunde liegende Zielprozess stationär ist, ist auch die approximierende multivariate Darstellung stationär (unter der Annahme deterministischer Marken-Produktivität).

   • Bedeutung: Dies ist entscheidend für die praktische Anwendbarkeit, da Stationarität die Nicht-Explosion des Prozesses (a.s.) garantiert und die Grundlage für frequentistische Vorhersagen und Simulationen bildet.

3. Identifizierbarkeit (Satz 3.5):
   Die Parameter des multivariaten Modells ($\theta = \{\lambda_{0i}, \alpha_{ij}, \beta_{ij}\}$) sind identifizierbar, vorausgesetzt, bestimmte Bedingungen sind erfüllt (z. B. Linearunabhängigkeit der Kernfunktionen und das Auftreten von Ereignissen in allen Partitionen).

   • Bedeutung: Im Gegensatz zu nicht-parametrischen oder neuronalen Ansätzen können die geschätzten Parameter eindeutig den wahren Prozessparametern zugeordnet werden.

Zusätzlich wird gezeigt, dass für den Spezialfall separierbarer Prozesse die induzierte Markenverteilung der multivariaten Darstellung einem Histogrammschätzer entspricht, was die Konsistenz der Dichteschätzung untermauert.

4. Simulationsergebnisse

Die Autoren führten eine Simulationsstudie durch, um die theoretischen Ergebnisse zu validieren:

• Setup: Ein stationärer univariater markierter Hawkes-Prozess mit exponentieller Kernfunktion und einer diskreten, gleichverteilten Markenverteilung (maximale Entropie, also minimal informativ) wurde simuliert.
• Ergebnis: Die Parameterschätzungen (MLE) des multivariaten Modells konvergieren mit zunehmender Anzahl der Komponenten $K$ und zunehmender Stichprobengröße gegen die wahren Parameterwerte.
• Fehleranalyse: Der mittlere absolute Fehler (MAE) der Parameterschätzung steigt mit $K$ leicht an (aufgrund des größeren Parameterraums), bleibt aber in einem heuristischen Rahmen. Die Studie liefert eine obere Schranke für den Fehler, der durch die Erhöhung der Parameterzahl in diesem Ansatz entsteht.
• Vergleich: Im Vergleich zu neuronalen Hawkes-Modellen (z. B. cLSTM) bietet der vorgeschlagene Ansatz eine bessere Interpretierbarkeit bei vergleichbarer Flexibilität.

5. Bedeutung und Fazit

Signifikanz:
Dieses Paper schließt eine wichtige Lücke zwischen der theoretischen Flexibilität nicht-separierbarer markierter Hawkes-Prozesse und der praktischen Machbarkeit ihrer Schätzung.

• Es bietet einen computational tractable (recheneffizienten) Rahmen, der die Vorteile parametrischer Modelle (Interpretierbarkeit, asymptotische Eigenschaften) mit der Flexibilität nicht-parametrischer Ansätze verbindet.
• Es ermöglicht die Modellierung von komplexen Interaktionen zwischen Zeit und Merkmalen, ohne auf nicht-separierbare Annahmen verzichten zu müssen oder auf „Black-Box"-Modelle wie neuronale Netze zurückgreifen zu müssen.

Zukunftsaussichten:
Die Autoren schlagen vor, die Partitionierung der Markenräume weiter zu verfeinern, z. B. durch den Einsatz von Kernel-Dichteschätzern statt Histogrammen, um die Anwendung in hochdimensionalen Markenräumen zu erleichtern. Zudem wird die Einführung von Sparsity-Regularisierung vorgeschlagen, um die Komplexität des Parameterraums bei großen $K$ zu reduzieren.

Zusammenfassend stellt die vorgestellte Methode ein robustes, theoretisch fundiertes und praktisch anwendbares Werkzeug dar, um eine breite Klasse von zeitlich clusternden Ereignisdaten mit komplexen Merkmalen präzise zu modellieren und zu analysieren.