A Multi-Center Study on the Adaptability of a Shared Foundation Model for Electronic Health Records
Deze multicenterstudie toont aan dat het aanpassen van een gedeeld, kant-en-klaar gestructureerd EHR-fundamenteel model voor verschillende ziekenhuizen de label-efficiëntie en voorspellingsprestaties aanzienlijk verbetert in vergelijking met het trainen van modellen vanaf nul, waardoor een schaalbare en kosteneffectieve benadering voor de ontwikkeling van AI in de gezondheidszorg wordt geboden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je probeert een hooggeschoolde medische detective op te bouwen. Traditioneel gezien moest elk ziekenhuis een nieuwe detective inhuren, deze vanaf nul trainen met alleen hun eigen lokale dossiers, en hopen dat ze goed genoeg zouden worden om specifieke problemen op te lossen, zoals het voorspellen van heropnames van patiënten of het opsporen van gevaarlijke laboratoriumuitslagen. Dit proces is traag, duur en vereist een enorme hoeveelheid "trainingsdata" (gelabelde voorbeelden van wat er met patiënten is gebeurd).
Dit artikel introduceert een nieuwe, efficiëntere manier om deze detectives op te bouwen met behulp van iets dat een Foundation Model wordt genoemd. Denk aan een Foundation Model als een "superdetective" die al miljoenen medische dossiers uit een groot, divers ziekenhuisnetwerk (Stanford Medicine) heeft gelezen. Deze superdetective kent de taal van de geneeskunde al, begrijpt hoe ziekten zich ontwikkelen en herkent patronen in de medische geschiedenis van patiënten.
De onderzoekers wilden zien of deze vooraf getrainde "superdetective" gemakkelijk kon worden aangepast om te werken bij twee zeer verschillende ziekenhuizen: SickKids (een groot pediatrisch ziekenhuis in Toronto) en MIMIC (een database van volwassen intensive care in de VS). Ze vroegen zich af: Kunnen we deze expert simpelweg een korte opfriscursus geven op basis van lokale dossiers en laten presteren als een detective die vanaf nul is getraind op alle lokale data?
Hier is wat ze vonden, onderverdeeld in eenvoudige concepten:
1. De "Out-of-the-Box" Detective
Eerst testten ze de superdetective zonder extra training, enkel gebruikmakend van de kennis die hij al bezat.
- Het resultaat: Zelfs zonder een enkel lokaal patiëntendossier te hebben gezien, presteerde dit vooraf getrainde model bijna net zo goed als een traditioneel model dat getraind was op alle beschikbare lokale data.
- De analogie: Het is alsof je een wereldberoemde chef-kok die voor miljoenen mensen heeft gekookt naar een kleine lokale keuken brengt. Zelfs voordat hij de lokale ingrediënten heeft geproefd, zijn zijn algemene kookvaardigheden zo goed dat hij direct een geweldige maaltijd kan maken, waarbij hij qua prestaties gelijkstaat aan een lokale chef die jarenlang alleen met die specifieke ingrediënten heeft gekookt.
2. De "Opfriscursus" (Continued Pretraining)
Vervolgens gaven ze de superdetective een "opfriscursus" door hem door de lokale ziekenhuisdossiers te laten lezen (een proces dat continued pretraining wordt genoemd).
- Het resultaat: Dit maakte het model nog beter. Het verbeterde het vermogen om uitkomsten te voorspellen en maakte de voorspellingen betrouwbaarder (betere "kalibratie").
- De analogie: Het is alsof de wereldberoemde chef een week in de lokale keuken doorbrengt om de specifieke eigenaardigheden van het lokale fornuis en de smaak van de lokale groenten te leren kennen. Nu zijn ze niet alleen een goede chef, maar de perfecte chef voor die specente keuken.
3. De "Few-Shot" Superkracht (Leren met zeer weinig data)
Hier gebeurt de echte magie. Normaal gesproken heb je duizenden voorbeelden nodig om een nieuw model te trainen. De onderzoekers testten hoe goed de modellen presteerden wanneer ze slechts een heel klein aantal voorbeelden hadden (slechts 2 tot 128 patiënten).
- Het resultaat: Het aangepaste Foundation Model was een kampioen in het leren van zeer weinig data.
- Met slechts 128 voorbeelden (minder dan 1% van de totale beschikbare data), evenaarde het aangepaste Foundation Model de prestaties van het traditionele model dat alle data had gezien.
- In tegenstelling hiertoe worstelde het traditionele model aanzienlijk wanneer het niet genoeg data had om van te leren.
- De analogie: Stel je voor dat een traditionele student 1.000 studieboeken moet lezen om een examen te halen. De Foundation Model, die elders al miljoenen boeken heeft gelezen, hoeft slechts één of twee lokale studieboeken te lezen om hetzelfde examen met hetzelfde cijfer te halen. Het is ongelooflijk "sample-efficiënt".
4. Het "Lokaal vs. Globaal" Debat
De onderzoekers vroegen zich ook af: Is het beter om een nieuw model vanaf nul te trainen met lokale data, of om het globale model aan te passen?
- Het resultaat: Als een ziekenhuis over een enorme hoeveelheid data beschikt (zoals 80% van hun totale dossiers), werkt het trainen vanaf nul goed. Maar als ze minder data hebben, is het aanpassen van het globale model superieur.
- De winst in efficiëntie: Om hetzelfde niveau van prestatie te bereiken, vereiste het vanaf nul trainen van een lokaal model 60% tot 90% meer patiëntendata dan het simpelweg aanpassen van het vooraf getrainde globale model.
- De analogie: Een huis vanaf nul bouwen (trainen vanaf nul) vereist een enorme stapel bakstenen. Het aanpassen van het globale model is als het kopen van een prefab huisframe en alleen de lokale verf en meubels toevoegen. Je krijgt een afgewerkt huis met een fractie van de grondstoffen.
Samenvatting van de bevindingen
Het artikel concludeert dat het delen van deze "Foundation Models" tussen ziekenhuizen een gamechanger is. In plaats van dat elk ziekenhuis miljoenen dollars en jaren tijd besteedt aan het trainen van hun eigen AI vanaf nul, kunnen ze een vooraf getrainde expert downloaden, deze een snelle lokale opfriscursus geven en direct een hoogwaardig hulpmiddel hebben.
- Kosten: Het bespaart geld en rekenkracht.
- Data: Het werkt zelfs wanneer een ziekenhuis zeer weinig data heeft om het model te onderwijzen.
- Snelheid: Het versnelt de ontwikkeling van nieuwe medische AI-instrumenten.
De studie heeft deze modellen niet getest op echte patiënten in een live klinische setting en beweert niet dat ze klaar zijn om artsen te vervangen. Het heeft simpelweg bewezen dat de technologie werkt: een gedeeld, vooraf getraind AI-model kan succesvol worden aangepast aan verschillende ziekenhuizen en taken met veel minder inspanning en data dan voorheen mogelijk werd geacht.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.