Technische Samenvatting: Gepersonaliseerde Digitale Gezondheidsmodellering met Adaptieve Ondersteunende Gebruikers

Probleemstelling

Gepersonaliseerd machine learning is cruciaal in de digitale gezondheid vanwege de aanzienlijke fysiologische en gedragsmatige heterogeniteit onder individuen. Echter, effectieve personalisatie wordt gehinderd door de schaarste, ruis en fragmentatie van gebruikersspecifieke data. Wanneer individuele data onvoldoende zijn om stabiele modellen te trainen, zijn externe data noodzakelijk, maar het integreren ervan zonder persoonlijke signalen te vervormen blijft een uitdaging.

Bestaande benaderingen vertrouwen doorgaans op populatievooropleiding gevolgd door fine-tuning of het poolen van data alleen van gebruikers die als "gelijkend" op het doelindividu worden beschouwd. Deze strategieën lijden aan twee hoofdbeperkingen:

1. Gekantelde Transfer: Het uniform behandelen van alle externe data (populatievooropleiding) of het beperken van transfer tot een klein buurteam van vergelijkbare gebruikers negeert de potentiële waarde van dissimiele gebruikers.
2. Gemiste Kansen: Dissimiele gebruikers, wiens data informatieve contrasten of tegenvoorbeelden kunnen coderen, worden vaak uitgesloten. Dit leidt tot een beperkte dekking van variatie op populatieniveau en verhindert dat het model leert wat het doelindividu niet is.

Het direct opnemen van data van dissimiele gebruikers zonder aanpassing kan de nauwkeurigheid verminderen door misleidende patronen in te brengen. Er is behoefte aan een trainingsmethode die externe data adaptief kan benutten om nuttige informatie over te dragen terwijl schadelijke signalen worden onderdrukt.

Methodologie

De auteurs stellen een unificerend personalisatiekader voor dat een persoonlijk model traint met behulp van adaptieve ondersteunende gebruikers, een groep die zowel vergelijkbare als dissimiele individuen omvat. De kerninnovatie is de formulering van personalisatie als een enkele optimalisatiedoelstelling die modelparameters en geleerde adaptieve gewichten gezamenlijk bijwerkt.

1. Initialisatie van Ondersteunende Gebruikers

Het proces begint met het berekenen van similariteitscores $s(u, j)$ tussen een doelgebruiker $u$ en alle externe gebruikers $j$. Dit wordt bereikt met cosinus-similariteit tussen gebruikersembeddings die zijn afgeleid van een hulp-neuraal netwerk dat is getraind op gepoolde populatiedata. In tegenstelling tot harde clustering, worden alle gebruikers behouden als potentiële ondersteunende gebruikers, met erkenning dat zowel sterk vergelijkbare als sterk dissimiele gebruikers waardevolle informatie kunnen bieden.

2. Unificerende Optimalisatiedoelstelling

Het kader minimaliseert een samengestelde verliesfunctie (Vergelijking 2) die bestaat uit drie termen:

• Persoonlijk Verlies ($L$): Directe supervisie vanuit de eigen data van de doelgebruiker ($D_u$), wat specificiteit voor individuele patronen garandeert.
• Kennisoverdracht van Vergelijkbare Gebruikers: Een gewogen som van verliezen van vergelijkbare gebruikers ($S(u)$). De bijdrage van elke vergelijkbare gebruiker wordt gemoduleerd door een vaste similariteitscore $s(u, j)$ en een geleerd adaptief gewicht $\alpha_j$. Deze term draagt voorspellende structuur over van uitgelijnde patronen.
• Strafterm voor Dissimiele Gebruikers ($R$): Een contrastieve regularisatieterm van dissimiele gebruikers ($D(u)$). Deze term maakt gebruik van een op marge gebaseerd verlies om te voorkomen dat het persoonlijke model misleidende patronen overneemt die bij dissimiele gebruikers voorkomen, waardoor de representatieruimte effectief wordt gestructureerd om de doelgebruiker te scheiden van diegenen met contrasterende profielen.

De doelstelling is onderworpen aan een simplex-beperking ($\sum \alpha_j = 1, \alpha_j \geq 0$), wat een genormaliseerde invloed garandeert.

3. Iteratief Optimalisatiealgoritme

Het kader hanteert een afwisselend optimalisatieprocedure:

• Stap 1 (Bijwerken Modelparameters): Met vaste adaptieve gewichten $\alpha_j$ worden de modelparameters (gedeelde encoder $\phi_{\theta_u}$ en gepersonaliseerde hoofd $g_{\theta_u}$) bijgewerkt via backpropagation. Gradiënten van het persoonlijke verlies, de overdrachtsterm en de straatterm vormen de encoder en het hoofd op complementaire manieren.
• Stap 2 (Bijwerken Adaptieve Gewichten): Met vaste modelparameters worden de gewichten $\alpha_j$ bijgewerkt op basis van de voorspellende bruikbaarheid van elke ondersteunende gebruiker. Een kostfunctie $c_j$ wordt berekend, die de voorspellingsfout bij vergelijkbare gebruikers afweegt tegen de representatieve overlap met dissimiele gebruikers. De gewichten worden vervolgens genormaliseerd via softmax, waarbij gebruikers die een nuttige generalisatie of informatief contrast bieden, een hogere invloed krijgen toegewezen.

Belangrijkste Bijdragen

1. Hernieuwde Definitie van Ondersteunende Gebruikers: Het artikel introduceert het concept van ondersteunende gebruikers die zowel vergelijkbare als dissimiele individuen omvatten, met het argument dat dissimiele gebruikers betekenisvolle complementaire informatie (contravfeitelijke structuur) bieden die vaak over het hoofd wordt gezien in eerdere werken.
2. Unificerend Adaptief Kader: Een nieuw kader dat heterogene data van ondersteunende gebruikers integreert door adaptieve bijdragen te leren. Dit stelt het model in staat om selectief nuttige signalen te benutten en schadelijke onderdrukken via een principieel optimalisatieproces.
3. Empirische Validatie en Interpretatie: Uitgebreide validatie over zes gezondheidszorgtaken op vier real-world datasets toont de doeltreffendheid van de methode aan. Bovendien bieden de geleerde adaptieve gewichten interpretatie, met bruikbare inzichten voor gerichte dataselectie.

Experimentele Resultaten

Het kader werd geëvalueerd op vier real-world digitale gezondheidsdatasets: Loneliness, Affect, CGMacro (glucoserespons) en Globem (slaapvoorspelling). De prestaties werden vergeleken met zes baselines, waaronder populatiemodellen, puur gepersonaliseerde modellen, samengevoegde modellen, op transfer gebaseerde modellen, op clustering gebaseerde modellen en modellen met vaste similariteitsgewichten.

• Prestatiewinst: De voorgestelde methode presteerde consequent beter dan de baselines. Op grootschalige datasets (bijv. Globem) werd tot 10% lagere RMSE bereikt. In situaties met weinig data waren de verbeteringen nog duidelijker, met ongeveer 25% lagere RMSE.
• Data-efficiëntie: Experimenten waarbij het percentage ondersteunende gebruikers varieerde, toonden aan dat modellen getraind op geselecteerde subsets (top 10% meest vergelijkbare en top 10% meest dissimiele) vaak beter presteerden dan die getraind op de volledige populatie, wat de bruikbaarheid van het concept "ondersteunende gebruiker" bevestigt.
• Architectuur-gevoeligheid: Eenvoudigere MLP-encoders presteerden beter dan Transformer-encoders in regimes met weinig data (Loneliness, Affect), terwijl de prestatiekloof kleiner werd naarmate de data-beschikbaarheid toenam (Globem).
• Ablatiestudies: Het verwijderen van ofwel de overdrachtsterm voor vergelijkbare gebruikers of de straatterm voor dissimiele gebruikers leidde in veel taken tot een aanzienlijke prestatiedegradatie, wat de noodzaak van beide componenten bevestigt. Evenzo resulteerde het gebruik van vaste gewichten in plaats van adaptieve gewichten in lagere prestaties, vooral in heterogene populaties.

Betekenis en Claims

Het artikel claimt dat de primaire betekenis ligt in het verschuiven van het paradigma van gepersonaliseerde digitale gezondheid van het uitsluiten van dissimiele gebruikers naar het adaptief integreren ervan. Door personalisatie te behandelen als een unificerende doelstelling die persoonlijk verlies, positieve transfer en contrastieve regularisatie in evenwicht brengt, adresseert de methode de fundamentele uitdaging van dataschaarste en ruis.

De auteurs benadrukken dat de geleerde adaptieve gewichten een dubbel doel dienen:

1. Prestaties: Ze optimaliseren dynamisch de afweging tussen generalisatie en specificiteit, wat leidt tot superieure voorspellende nauwkeurigheid.
2. Interpretatie: De gewichten bieden een transparant mechanisme om te begrijpen welke externe gebruikers het meest bijdragen aan het model van een specifiek individu. Dit biedt praktische richtlijnen voor dataverzamelingsstrategieën, waarbij wordt gesuggereerd dat toekomstige dataverzameling niet alleen prioriteit moet geven aan de doelgebruiker, maar ook aan die ondersteunende gebruikers met hoge adaptieve gewichten.

Het werk concludeert dat deze aanpak nauwkeurigere monitoring en aanbevelingen in de digitale gezondheid mogelijk maakt door effectief gebruik te maken van het volledige spectrum van populatiediversiteit, in plaats van alleen de meest vergelijkbare subset.