Tensor Network Machine Learning for Wildfire Susceptibility Mapping: from Grokking Dynamics to Quantum Mixedness of Class Representations

Technische Samenvatting: Tensor Netwerk Machine Learning voor Kaartvorming van Wildbrandgevoeligheid

Probleemstelling
De studie behandelt de uitdaging van het in kaart brengen van de wildbrandgevoeligheid in de regio Gargano in Zuid-Italië, een mediterraan landschap dat gekenmerkt wordt door hoge omgevingsheterogeniteit, inclusief diverse vegetatiestructuren, landgebruikpatronen en antropogene druk. Traditionele modellering van wildbranden leunt op handmatig geharmoniseerde voorspellers (bijv. brandstofbelasting, landbedekking, klimaatindices), wat computationeel intensief kan zijn en moeilijk schaalbaar is. Bovendien hebben standaard machine learning-benaderingen vaak moeite met het vastleggen van complexe, niet-lineaire ruimtelijke-spectrale relaties die inherent zijn aan grootschalige Earth Observation (EO) data, zonder dat dit gepaard gaat met hoge computationele kosten of een gebrek aan interpreteerbaarheid met betrekking tot klassenseparabiliteit. De auteurs beoogden te evalueren of quantum-geïnspireerde tensor netwerkmodellen, specifiek Matrix Product States (MPS), effectief wildbrandgevoeligheid kunnen classificeren met behulp van compacte, geleerde geospatiale representaties, terwijl ze tegelijkertijd fysiek gefundeerde inzichten bieden in de leerdynamiek en de onderscheidbaarheid van klassen.

Methodologie
Het voorgestelde framework integreert schaalbare geospatiale gegevensverwerking met quantum-geïnspireerde machine learning:

1. Datarepresentatie (AlphaEarth Embeddings):

   • De studie maakt gebruik van AlphaEarth Foundations, een globaal embeddingveld dat heterogene omgevingsdata (multispectrale beelden, vegetatie-indices, topografie, klimaat) transformeert naar een compacte, 64-dimensionale vector voor elke $10m \times 10m$ pixel.
   • Deze embedding dient als een verenigde, latente representatie van de omgevingsstaat, wat de noodzaan voor handmatige feature engineering vermindert.
   • Boruta feature selectie wordt toegepast om de meest informatieve subset van features (30 dimensies) te identificeren om redundantie te verminderen vóór de modeltraining.

2. Modelarchitectuur (Matrix Product State Classifier):

   • De kernarchitectuur voor leren is een Matrix Product State (MPS) classifier, een tensor netwerk model dat hoog-dimensionale correlaties codeert via low-rank decomposities.
   • Quantum Encoding: Inputvectoren worden gemapt naar een hoog-dimensionale Hilbertruimte via een feature map $|\phi(x^{(j)})\rangle = (\cos x^{(j)}, \sin x^{(j)})^\top$.
   • Quantum Mask: Een variationeel tensorobject, een zogenaamde "quantum mask" ($W$), werkt op de gecodeerde staat. $W$ is uitgedrukt in MPS-vorm met een instelbare bond dimensie ($\chi$), wat controle biedt over de modelcomplexiteit.
   • Training: Het model wordt getraind door een mean squared error loss te minimaliseren tussen de voorspelde amplitudes en de doelwit label encodings. Optimalisatie vindt plaats via een two-site update strategie met stochastic gradient descent (SGD) op mini-batches, uitgevoerd op NVIDIA H100 GPU's.
   • Taakformuleringen: Het model wordt geëvalueerd op twee taken:
     • Binaire Classificatie: Klasse 0 (geen/verwaarloosbare gevoeligheid) versus Klassen 1–3 (geaggregeerde gevoeligheid).
     • Multiclass Classificatie: Het onderscheiden van alle vier de klassen (0, 1, 2, 3).

3. Diagnostische Metrieken:

   • Naast standaard accuratesse introduceert de studie level-resolved mixedness diagnostics gebaseerd op gereduceerde dichtheidsmatrices.
   • Kernmetrieken zijn pairwise decoherence factors ($\Gamma_{ij}$), genormaliseerde triplet determinanten ($\Delta_{ijk}$) en conditionele purities. Deze kwantificeren de mate van onderscheidbaarheid en coherentie tussen klasse-representaties binnen het geleerde tensor netwerk.

Belangrijkste Resultaten

1. Voorspellende Prestaties:

   • Binaire Taak: De MPS classifier bereikte een accuratesse van 87,07%, met een hoge sensitiviteit (91,13%) en specificiteit (83,02%).
   • Multiclass Taak: Het model bereikte een algehele accuratesse van 53,01%. De prestaties varieerden per klasse, waarbij Klasse 0 (75,47%) en Klasse 3 (62,49%) beter presteerden dan de intermediaire Klassen 1 (35,88%) en 2 (38,21%).
   • Hoewel de Random Forest benchmark in de literatuur hogere accuratesse rapporteert (>95%) voor deze specifieke regio, worden de MPS-resultaten gepresenteerd als een aanvullende demonstratie van het vermogen van het model om te leren van embeddings en interne dynamiek te onthullen.

2. Grokking Dynamiek:

   • De trainingspaden onthulden een duidelijke grokking transitie, met name in de binaire classificatietaak.
   • Aanvankelijk vertoonde het model een kloof tussen de trainings- en testprestaties, wat suggereert dat er sprake is van memorisatie van oppervlakkige correlaties.
   • Tussen 400 en 600 trainings-sweeps vond een scherpe transitie plaats waarbij de test-sensitiviteit en accuratesse abrupt verbeterden en in lijn kwamen met de trainingsmetrieken. Dit duidt op een reorganisatie van de interne representatie van memorisatie naar het vastleggen van de onderliggende structuur van het classificatieprobleem.
   • In de multiclass setting was deze transitie hiërarchisch en gedistribueerd: het model leerde eerst de dominante Klasse 0 te scheiden van de rest, en verfijnde pas later zijn vermogen om de minderheidsklassen (1, 2, 3) te onderscheiden.

3. Magnetisatiepatronen:

   • Het monitoren van de verwachtingswaarden van de Pauli $\sigma_Z$ operator (magnetisatie) over feature sites toonde aan dat de quantum mask stabiliseert in coherente patronen die samenvallen met de grokking transitie.
   • Het magnetisatiepatroon voor Klasse 0 in de multiclass setting was bijna identiek aan dat in de binaire setting, wat wijst op een stabiele, hiërarchische representatie waarbij de binaire scheiding een grofmazige projectie is van de multiclass structuur.

4. Quantum Mixedness en Klasse Onderscheidbaarheid:

   • Analyse van gereduceerde dichtheidsmatrices onthulde een fundamentele geometrische eigenschap van de geleerde representatie: niet-aangrenzende klassen zijn beter onderscheidbaar dan aangrenzende klassen.
   • Decoherence Factoren: Paren van aangrenzende klassen (bijv. 1-2, 2-3) behielden een hogere coherentie (hogere $\Gamma_{ij}$), wat aangeeft dat ze moeilijker te scheiden zijn. Niet-aangrenzende paren (bijv. 0-2, 0-3) vertoonden lagere coherentie, wat duidt op een betere separatie.
   • Triplet Determinanten: Triplets met niet-aangrenzende klassen (bijv. 0-1-3) stabiliseerden op hogere waarden dan die met enkel aangrenzende klassen (bijv. 1-2-3), wat bevestigt dat de omgeving meer onafhankelijke informatie codeert voor verre categorieën.
   • Deze hiërarchie verklaart de geobserveerde classificatiefouten, die voornamelijk gelokaliseerd zijn tussen naburige susceptibiliteitsniveaus in plaats van tussen extreme klassen.

Betekenis en Claims
Het artikel claimt dat tensor netwerkmodellen meer bieden dan alleen concurrerende classificatie-accuratesse; ze bieden een fysiek gefundeerd framework om complexe omgevingsdatasets te interpreteren.

• Interpreteerbaarheid: In tegen tegenover standaard "black-box" modellen, maakt de MPS-aanpak directe kwantificering van klasse-separabiliteit en coherentie mogelijk via quantum mechanische observabelen (magnetisatie, mixedness).
• Hiërarchisch Leren: De resultaten laten zien dat het model natuurlijk een hiërarchie van klasse-onderscheidbaarheid codeert, waarbij brede onderscheiden (laag vs. hoog risico) worden geleerd voordat fijnmazige onderscheiden (tussen matige niveaus) plaatsvinden.
• Grokking in Omgevingsdata: De studie identificeert dat het "grokking" fenomeen — vertraagde maar abrupte generalisatie — aanwezig is in MPS classifiers toegepast op real-world geospatiale data, en koppelt deze dynamiek aan de stabilisatie van interne quantum representaties.
• Schaalbaarheid: Door gebruik te maken van AlphaEarth embeddings, biedt de aanpak een schaalbaar alternatief voor handmatige predictor engineering, in staat om heterogene, multi-source EO data te verwerken.

De auteurs concluderen dat hoewel de MPS classifier nog niet de voorspellende accuratesse van gevestigde Random Forest modellen voor deze specifieke taak evenaart, het een rijkere, geometrisch interpreteerbare beschrijving biedt van het leerproces en de intrinsieke structuur van de wildbrandgevoeligheid-labels.