Structural identifiability of partially-observed stochastic processes: from single-particle trajectories to total particle density data

Technische Samenvatting: Structurele Identificeerbaarheid van Gedeeltelijk Waargenomen Stochastische Processen

Probleemstelling
De toenemende beschikbaarheid van experimentele data heeft de noodzaak versterkt om stochastische modellen te kalibreren voor het verkrijgen van kwantitatieve inzichten. Een fundamentele voorwaarde voor parameterschatting is structurele identificeerbaarheid: het bepalen of modelparameters uniek kunnen worden hersteld uit idealistische, ruisvrije data. Hoewel er uitgebreide methoden bestaan voor differentiaalvergelijkingen met gewone afgeleiden (ODE-modellen), ontbreekt het aan algemene methodologieën om de structurele identificeerbaarheid van stochastische processen te beoordelen. Deze uitdaging wordt verergerd door de willekeur die inherent is aan deze processen en de aard van de beschikbare data. Specifiek behandelt het artikel hoe identificeerbaarheid afhankelijk is van het waarnemingsregime, met onderscheid tussen trajectdata van individuele deeltjes (op basis van individuen) en data over de totale deeltjesdichtheid (op populatieniveau). Voor gedeeltelijk waargenomen Markov-processen wordt de uitdaging verergerd door het feit dat data de interne toestanden van deeltjes kan verbergen, wat parameterschatting bemoeilijkt.

Methodologie
De auteurs stellen een nieuwe methodologie voor om de structurele identificeerbaarheid te analyseren voor een klasse van ruimtetijd-stochastische processen, specifiek snelheids-sprongmodellen waarbij de interne toestand van een deeltje evolueert als een continue-tijd Markov-keten binnen een netwerk van toestanden, waarbij elke toestand wordt gekenmerkt door een vaste snelheid. De studie maakt gebruik van twee verschillende wiskundige representaties die overeenkomen met de twee datatypen:

1. Op individuen gebaseerd model (Trajecten van individuele deeltjes):

   • De auteurs maken gebruik van de expliciete, op individuen gebaseerde beschrijving van het continue-tijd Markov-proces.
   • Zij analyseren het traject $x(t)$ en zijn afgeleide $x'(t)$, die stuksgewijs constant is en waarden aanneemt uit de verzameling van de snelheden van de toestanden.
   • Identificeerbaarheid wordt beoordeeld door de cumulatieve verdeling van de tijd die in elke toestand wordt doorgebracht af te leiden (om schakelsnelheden te identificeren) en de frequentie van overgangen tussen toestanden (om overgangskansen te identificeren).
   • Beginvoorwaarden (locatie en toestandverdeling) worden geïdentificeerd door de verdeling van startpunten en beginsnelheden te analyseren over een aftelbaar oneindig aantal trajecten.

2. Model op populatieniveau (Totale deeltjesdichtheid):

   • De auteurs leiden een stelsel van partiële differentiaalvergelijkingen (PDG's) af (een Fokker-Planck-formulering) dat de evolutie van de deeltjesdichtheid $n_s(x,t)$ in elke toestand $s$ beschrijft.
   • Zij passen de differentiaal-algebra benadering toe, een techniek die gebruikelijk is in ODE-analyse, op het PDG-stelsel. Dit omvat het symbolisch elimineren van niet-waargenomen toestandsvariabelen ($n_1, n_2, n_3$) om input-output-vergelijkingen af te leiden die uitsluitend afhankelijk zijn van de waarneembare totale dichtheid $N(x,t)$ en de modelparameters.
   • Nieuwe analyse van beginvoorwaarden: Met het besef dat standaard differentiaal-algebra bij $t=0$ mogelijk niet alle informatie over identificeerbaarheid vastlegt (aangezien ruimtelijke en temporele afgeleiden evenredig kunnen zijn), introduceren de auteurs een nieuwe methode. Zij maken gebruik van karakteristieke vergelijkingen van het PDG-stelsel om een Taylor-reeksontwikkeling van de dichtheids-evolutie rond $t=0$ te construeren. Dit maakt het mogelijk om aanvullende parametercombinaties gerelateerd aan de beginvoorwaarde te identificeren die niet duidelijk zijn via standaard eliminatie.

Belangrijkste Resultaten
De methodologie wordt toegepast op een snelheids-sprongmodel met drie toestanden en negen parameters (snelheden, schakelsnelheden en overgangskansen).

• Trajectdata van individuele deeltjes:

  • Het model is structureel globaal identificeerbaar (op hernoeming van toestanden na) wanneer een aftelbaar oneindig aantal oneindig lange trajecten van individuele deeltjes beschikbaar is.
  • Alle parameters, inclusief snelheden, schakelsnelheden, overgangskansen en de verdeling van de beginvoorwaarde, kunnen uniek worden hersteld.

• Data over totale deeltjesdichtheid:

  • Met behulp van de differentiaal-algebra benadering op het PDG-stelsel leiden de auteurs input-output-vergelijkingen af met coëfficiënten ($c_1$ tot en met $c_8$) die functies zijn van de modelparameters.
  • Snelheden en schakelsnelheden blijken structureel identificeerbaar te zijn (op hernoeming van toestanden na).
  • Echter, de parameters voor overgangskansen zijn niet globaal identificeerbaar met uitsluitend de input-output-coëfficiënten die uit het PDG alleen zijn afgeleid; zij voldoen aan kwadratische vergelijkingen die meerdere oplossingen opleveren.
  • Invloed van beginvoorwaarden: De standaard differentiaal-algebra benadering bij $t=0$ levert slechts één identificeerbare coëfficiënt ($c_9$) op die gerelateerd is aan de beginvoorwaarde, wat onvoldoende is om de begintoestandkansen ($a_1, a_2, a_3$) te identificeren.
  • Bijdrage van Taylor-reeksontwikkeling: Door de nieuwe methode voor Taylor-reeksontwikkeling op basis van karakteristieke vergelijkingen toe te passen, identificeren de auteurs aanvullende coëfficiënten ($c_{10}$ tot en met $c_{15}$). Deze coëfficiënten maken het mogelijk om de begintoestandkansen te identificeren.
  • Lokale identificeerbaarheid: Zelfs met de aanvullende coëfficiënten uit de Taylor-reeksontwikkeling is het model slechts lokaal structureel identificeerbaar met betrekking tot de kansparameters. Dit betekent dat hoewel parameters uniek identificeerbaar zijn in een kleine omgeving van de ware waarden, er verschillende parametersets (equivalente modellen) bestaan die onder specifieke beginvoorwaarden identieke evoluties van de totale deeltjesdichtheid produceren.

• Speciale gevallen (Gedeelde snelheden):

  • Als twee of drie toestanden dezelfde snelheid delen, verslechtert de identificeerbaarheid. Als alle drie de toestanden dezelfde snelheid delen, is alleen de snelheid identificeerbaar; alle snelheids- en kansparameters worden niet-identificeerbaar.
  • Als twee toestanden een snelheid delen, is de som van hun schakelsnelheden identificeerbaar, maar blijven individuele snelheden en kansen over het algemeen niet-identificeerbaar, zelfs met de methode van Taylor-reeksontwikkeling.

Betekenis en Claims
Het artikel claimt de eerste algemene methodologie te bieden voor het analyseren van de structurele identificeerbaarheid van ruimtetijd-stochastische processen, waarmee de kloof wordt overbrugd tussen op individuen gebaseerde beschrijvingen en PDG-formuleringen op populatieniveau.

• Afhankelijkheid van datatype: De studie benadrukt een kritiek onderscheid: trajectdata van individuele deeltjes leidt tot globale structurele identificeerbaarheid, terwijl data over totale deeltjesdichtheid slechts leidt tot lokale identificeerbaarheid. Dit onderstreept dat de keuze van het experimentele waarnemingsregime fundamenteel bepaalt of unieke parameterschatting haalbaar is.
• Rol van beginvoorwaarden: Het werk toont aan dat beginvoorwaarden de structurele identificeerbaarheid in PDG-modellen significant beïnvloeden. De auteurs claimen dat standaard differentiaal-algebra benaderingen vaak ontoereikend zijn voor het vastleggen van informatie over beginvoorwaarden in deze stochastische contexten en dat hun voorgestelde methode voor Taylor-reeksontwikkeling op basis van karakteristieke vergelijkingen noodzakelijk is om aanvullende identificeerbare parametercombinaties aan het licht te brengen.
• Implicaties voor experimenteel ontwerp: Het bestaan van structureel equivalente modellen (verschillende parameters die identieke evoluties van dichtheid produceren) suggereert dat het variëren van beginvoorwaarden een praktische strategie kan zijn om de parametersidentificeerbaarheid te verbeteren in experimenteel ontwerp.
• Methodologische uitbreiding: De auteurs stellen dat hun aanpak, met name het gebruik van karakteristieke vergelijkingen voor Taylor-reeksontwikkelingen, toepasbaar is op andere stochastische modellen waarbij dergelijke vergelijkingen kunnen worden geschreven in termen van modelparameters, wat potentieel uitbreidt tot chemische reactienetwerken met ruimtelijke componenten.

De auteurs blijven bescheiden wat betreft praktische toepassingen, met de opmerking dat hun resultaten identificeerbaarheid karakteriseren in idealistische, ruisvrije omstandigheden. Zij stellen expliciet dat toekomstig werk vereist is om praktische identificeerbaarheid aan te pakken met eindige, ruizige data en om deze methoden uit te breiden tot modellen met complexere begin- of randvoorwaarden.