Technische Samenvatting: De Kalman Evolve

Probleemstelling

De Kalman-filter (KF) blijft de hoeksteen van toestandschatting en biedt een optimale oplossing onder aannames van lineaire dynamica, Gaussisch ruis en bekende ruiscovarianties. In realistische sensorenmilieus—zoals Doppler-radar en LiDAR—zijn waarnemingen echter vaak van nature niet-lineaire functies van de onderliggende toestand. In deze scenario's faalt de standaard KF-update, beperkt tot affiene transformaties van het meetresidu, om de structuur van de optimale schatter te vangen.

Hoewel uitbreidingen zoals de Extended Kalman Filter (EKF) en Unscented Kalman Filter (UKF) proberen niet-lineariteit te hanteren via lokale linearisatie of sigma-puntbenaderingen, vertrouwen zij op bekende systeemmodellen en missen ze datagedreven aanpasbaarheid. Omgekeerd functioneren datagedreven benaderingen zoals Neural Kalman Filters (bijvoorbeeld KalmanNet) vaak als black boxes, vereisen aanzienlijke trainingsdata en kunnen klassieke methoden onderpresteren. Bovendien richten bestaande optimalisatiemethoden, zoals de Optimized Kalman Filter (OKF), zich uitsluitend op het afstemmen van ruisparameters ($Q$ en $R$), maar blijven zij beperkt tot de klasse van affiene schatters. De auteurs betogen dat deze structurele beperking deze methoden verhindert om fundamentele prestatiekloven veroorzaakt door modelmismatch te overbruggen, zelfs wanneer parameters perfect zijn afgesteld.

Methodologie: Kalman Evolve

Om de gezamenlijke uitdagingen van parameteronzekerheid en structurele beperkingen aan te pakken, stellen de auteurs Kalman Evolve voor, een raamwerk dat verbeterde filteralgoritmen ontdekt door zowel ruisparameters als de updatestructuur gelijktijdig te optimaliseren. De aanpak bestaat uit twee hoofdfasen:

1. Parameterkalibratie: Het proces begint met het schatten van de proces- en meetruiscovarianties ($Q$ en $R$) met behulp van ofwel kleinste-kwadratenschattting of de Optimized Kalman Filter (OKF). Dit vestigt een goed gekalibreerde, concurrerende basislijn.
2. LLM-geleide evolutionaire zoektocht: Op basis van de gekalibreerde basislijn maakt het raamwerk gebruik van een evolutionaire zoektocht die wordt geleid door Large Language Models (LLM's).
   • Gestructureerde prior: De LLM (specifiek DeepSeek 16B) fungeert als een gestructureerde prior over de ruimte van interpreteerbare programmatransformaties.
   • Zoekproces: Geïnspireerd door AlphaEvolve, werkt de zoektocht over vier onafhankelijke "eilanden" (parallelle GPU-workers). In elke cyclus sampleert de LLM kandidaat-algoritmen uit een database, ontvangt een probleemspecificatie en twee ouder-algoritmen als prompt, en genereert mutaties of combinaties.
   • Fitheidsevaluatie: Kandidaten worden geëvalueerd op basis van een verliesfunctie (typisch Root Mean Squared Error, RMSE) op trainingsdata. De database wordt bijgewerkt met de best presterende kandidaten.
   • Behoud van structuur: Cruciaal is dat de zoektocht beperkt blijft tot het behoud van de recursieve vorm van de Kalman-filter. De ontdekte algoritmen wijzigen de updatestap (bijvoorbeeld via niet-affiene gating-mechanismen of adaptieve herschaling) terwijl ze de kernpredictie-update-decompositie en de semantische rollen van de innovatie en de Kalman-versterking behouden.

Belangrijkste Bijdragen

Het artikel levert vier primaire bijdragen:

• Theoretische suboptimaliteit van affiene schatters: De auteurs leveren analytische bewijzen (Corollaria 1 en 2) die aantonen dat affiene schatters structureel suboptimaal zijn onder veelvoorkomende niet-lineaire sensormodellen, specifiek Doppler-radar en LiDAR. Zelfs bij lineaire dynamica en Gaussische priors induceren geometrische afhankelijkheden in waarnemingen (bijvoorbeeld radiale of hoekmetingen) een posteriori-middelpunt dat intrinsiek niet-lineair is.
• Gecombineerd optimalisatieraamwerk: Zij introduceren een unificerend raamwerk dat ruisparameters en de updatestructuur gezamenlijk optimaliseert, waardoor de ontdekking van interpreteerbare, niet-affiene uitbreidingen van de Kalman-filter mogelijk wordt.
• Empirische superioriteit: Over synthetische en real-world benchmarks heen presteren de ontdekte algoritmen consequent beter dan sterke basislijnen, waaronder de Optimized Kalman Filter (OKF), met een reductie in RMSE tot 12%.
• Reproduceerbaarheid: De auteurs geven code en de ontdekte algoritmen vrij om verder onderzoek te ondersteunen in de richting van interpreteerbare algoritmische ontdekking.

Experimentele Resultaten

Het raamwerk werd geëvalueerd op drie verschillende benchmarks:

1. Doppler-radar-tracking: Geëvalueerd op vijf scenario's variërend van vereenvoudigd ("Toy") tot complex ("Free" beweging met versnelling en bochten). Kalman Evolve (KE) presteerde consequent beter dan OKF. Verbeteringen waren marginaal in eenvoudige instellingen (~0,4%), maar groeiden uit tot 11–12% in complexe regimes die versnelling en niet-lineaire beweging omvatten.
2. LiDAR-gebaseerde lokalisatie: Getest op synthetische rijtrajecten en het real-world NCLT-dataset. KE verbeterde ten opzichte van OKF met ongeveer 5% in toestandschatting en 6% in voorspelling van de volgende toestand op synthetische data, en met 2–3% op het ruisige NCLT-dataset, wat transferabiliteit buiten synthetische omgevingen aantoont.
3. Voetgangers-tracking (MOT20): Gericht op voorspelling van de volgende toestand voor voetgangers. KE verlaagde de test-RMSE met 8% ten opzichte van OKF met hoge statistische significantie ($p < 10^{-6}$). Opmerkelijk is dat KE superieure data-efficiëntie toonde, met lage fouten bij kleine trainingssets waarbij de OKF-prestaties variabele waren.

In alle gevallen behielden de ontdekte algoritmen rekentkosten vergelijkbaar met de standaard Kalman-filter, aangezien de inferentie-overhead minimaal was. Deep learning-basislijnen (LSTM, KalmanNet) presteerden over het algemeen minder dan modelgebaseerde benaderingen, met name in de LiDAR- en MOT20-instellingen.

Betekenis en Beweringen

Het artikel stelt dat de prestatiekloof in niet-lineaire toestandschatting niet louter een kwestie van parameterafstemming is, maar een structurele. Door de structuur van de Kalman-filter zelf te optimaliseren, in plaats van alleen zijn parameters, biedt Kalman Evolve een praktische en interpreteerbare weg naar verbeterde toestandschatting.

De auteurs benadrukken dat hun aanpak de kloof overbrugt tussen modelgebaseerde efficiëntie en datagedreven aanpasbaarheid. In tegenstelling tot black-box neurale netwerken behouden de ontdekte algoritmen de recursieve, interpreteerbare vorm van de klassieke filter, en introduceren ze eenvoudige, data-afhankelijke mechanismen (zoals gating of adaptieve herschaling) om modelmismatch aan te pakken. Het werk suggereert dat het combineren van klassieke modelgebaseerde structuren met LLM-gestuurde ontdekking een veelbelovende richting is voor het ontwikkelen van hoogpresterende, interpreteerbare algoritmen voor real-world sensorenproblemen waarbij aannames van lineariteit en Gaussiciteit vaak worden geschonden.