A Deep Set-Based Aggregation Approach for Repeated Measurements: Insights from Variable-Length Wearable Device-Measured Physical Activity Data

Technische Samenvatting: Een Deep Set-gebaseerde Aggregatie-aanpak voor Herhaalde Metingen

Probleemstelling
De snelle integratie van draagbare apparaten in de digitale gezondheidszorg heeft continue, realtime monitoring van patiëntmetrieken mogelijk gemaakt, zoals fysieke activiteit (PA). Het benutten van deze gegevens voor voorspellende modellering brengt echter aanzienlijke uitdagingen met zich mee. Herhaalde metingen van wearables variëren vaak in lengte per individu door ontbrekende gegevens of verschillend gebruik (compliance), wat resulteert in "variabele lengte" inputs die standaard machine learning-algoritmen niet direct kunnen verwerken, aangezien deze doorgaans vaste lengte feature-vectoren vereisen.

Traditionele oplossingen aggregeren deze herhaalde observaties tot samenvattende statistieken (bijv. gemiddelden) om de dimensionaliteit te beperken. Hoewel dit effectief is voor het reduceren van dimensionaliteit, gaat eenvoudige aggregatie vaak waardevolle temporele dynamiek en interactiepatronen tussen observaties verloren. Bovendien gaan bestaande deep learning-architecturen (bijv. CNN's, RNN's) vaak uit van een één-op-één correspondentie tussen feature-vectoren en uitkomsten, waardoor ze minder geschikt zijn voor het mappen van meerdere tijdreeksobservaties naar een enkele klinische uitkomst zonder restrictieve aannames over onafhankelijkheid.

Methodologie
De studie maakte gebruik van gegevens uit de National Health and Nutrition Examination Survey (NHANES) van 2011–2014, met de focus op volwassenen met artritis. De dataset bevatte meerdaagse accelerometrie-gebaseerde PA-metingen (vastgelegd als Monitor-Independent Movement Summary [MIMS]-eenheden) en eenmalige covariaten (demografie, zelfgerapporteerde PA, medische condities). De studie evalueerde twee binaire uitkomsten: de noodzaak voor speciale hulpmiddelen om te lopen en de aanwezigheid van een slecht fysiek functioneren.

Drie aggregatiestrategieën werden vergeleken om de variabel-lengte PA-data te transformeren naar fixed-length predictoren:

1. Eenvoudige Aggregatie (Methode 1): Berekende het rekenkundig gemiddelde van de dagelijkse PA-metingen voor elke deelnemer. Dit dient als baseline, uitgaande van de aanname dat de gemiddelde waarde de activiteitsprofiel van het individu voldoende representeert.
2. Variantie-gecorrigeerde Aggregatie (Methode 2): Gebruikte een statistische aanpak om het eenvoudige gemiddelde aan te passen op basis van de betrouwbaarheid van de metingen. Deze methode deelt variantie op in tussen-individuele en binnen-individuele componenten. Het past gewichten toe op het populatiegemiddelde, het geobserveerde gemiddelde van het individu en eenmalige covariaten. Dit wegingsschema legt meer nadruk op herhaalde metingen wanneer de binnen-individuele variantie laag is en het aantal observaties hoog is, terwijl het de nadruk verschuift naar covariaten wanneer metingen schaars of zeer variabel zijn.
3. Deep Set Aanpak (Methode 3): Implementeerde een deep learning-architectuur die specifiek is ontworpen voor set-gebaseerde, variabel-lengte inputs. Deze aanpak maakt gebruik van twee belangrijke eigenschappen: permutatie-invariantie (de output is onafhankelijk van de volgorde van de input-elementen) en permutatie-equivariantie.
   • Architectuur: Het model behandelt de PA-historie van elke deelnemer als een set. Voor dagelijkse data maakte het model gebruik van een self-attention mechanisme met Query, Key en Value (QKV) vectoren om temporele afhankelijkheden en interacties over dagen heen te vangen zonder expliciete feature engineering. Voor minuten-gebaseerde data (hoog-frequente, complexe inputs) incorporeerde de architectuur Convolutional Neural Network (CNN) lagen voor feature-extractie voorafgaand aan de self-attention aggregatie.
   • Training: Het model werd getraind om zowel feature-extractie als aggregatie gezamenlijk te leren, waardoor het in staat is om niet-lineaire patronen over herhaalde observaties te ontdekken die traditionele methoden mogelijk missen.

Belangrijkste Resultaten
De studie evalueerde de modelprestaties met behulp van AUC, accuratesse, precisie, recall en F1-score over 100 iteraties van 80/20 train-test splits.

• Dag-gebaseerde Data: Voor dag-gebaseerde PA-samenvattingen verbeterde de Deep Set-aanpak over het algemeen de accuratesse en F1-scores vergeleken met eenvoudige en variantie-gecorrigeerde aggregatie. Het vertoonde echter lagere AUC-scores, met name bij deelnemers met minder observaties (< 6 dagen). In deze subgroep met lage observatie frequentie presteerde het Deep Set-model ondermaats, waarschijnlijk door de kleine steekproefomvang van deze groep en het gebrek aan betekenisvolle temporele interacties in kortstondige data. Daarentegen werden de prestatieverschillen tussen de methoden kleiner voor deelnemers met 6–7 dagen aan data.
• Minuten-gebaseerde Data: Wanneer toegepast op minuten-gebaseerde PA-data, vertoonde de Deep Set-aanpak een superieure algehele prestatie, waarbij het de hoogste AUC, accuratesse en F1-scores behaalde voor beide uitkomsten. Dit suggereert dat het vermogen van het model om features te extraheren en complexe, hoog-frequente temporele dynamiek te modelleren, een significant voordeel biedt wanneer de dataresolutie hoog is.
• Variantie-correctie: De variantie-gecorrigeerde methode toonde minimale praktische verbetering ten opzichte van eenvoudige aggregatie in deze specifieke dataset, grotendeels omdat de meeste deelnemers voldoende observaties hadden (6–7 dagen), wat resulteerde in een lage binnen-individuele variantie en dus kleine correctiegewichten.

Betekenis en Bijdragen
Het artikel draagt bij met een vergelijkend kader voor het selecteren van aggregatiestrategieën in de digitale gezondheidszorg, waarbij wordt benadrukt dat de optimale methode afhangt van de complexiteit, variabiliteit en steekproefomvang van de data.

• Context-afhankelijke Selectie: De auteurs stellen dat eenvoudige aggregatie voldoende blijft voor relatief stabiele, laag-frequente herhaalde metingen (bijv. dagelijkse PA met consistente patronen). In contrast hiermee zijn Deep Set-gebaseerde benaderingen voordeliger voor complexe, hoog-frequente data (bijv. minuten-gebaseerde stromen) waar het vastleggen van niet-lineaire temporele dynamiek cruciaal is.
• Omgaan met Variabele Lengte: De studie valideert de Deep Set-architectuur als een levensvatbare oplossing voor het integreren van variabel-lengte wearable-data in klinische modellen zonder deelnemers met incomplete data te verwijderen of temporele nuances te verliezen.
• Praktische Richtlijnen: De bevindingen bieden een routekaart voor onderzoekers: als de dataset veel deelnemers bevat met talrijke, complexe en dynamische observaties, zijn Deep Sets voordelig. Echter, voor schaarse data of eenvoudige metrieken kan traditionele statistische aggregatie robuuster zijn en minder gevoelig voor overfitting.

De auteurs concluderen dat hoewel Deep Sets uitzonderlijke flexibiliteit bieden voor real-world digitale geneeskunde-toepassingen met complexe datastromen, hun prestaties afhankelijk zijn van het hebben van voldoende datavolume en observatiedichtheid om betekenisvolle interacties te leren.