Quantifying the Effect of Synthetic Colour Fundus Photograph Scaling on Foundation Models
Deze studie toont aan dat het schalen van synthetische kleurend fundusfotografie tijdens de pretraining van foundation models een afstembare strategie biedt waarbij aanvulling met lagere volumes de balans tussen prestaties en rekenkracht optimaliseert, terwijl grotere volumes de externe generalisatie aanzienlijk verbeteren, waarbij de optimale aanpak afhankelijk is van specifieke evaluatiedoelstellingen en beschikbare computationele middelen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het menselijk oog biedt een uniek venster naar de algehele gezondheid van het lichaam. Door het netvlies te onderzoeken, de lichtgevoelige laag aan de achterkant van het oog, kunnen artsen tekenen van aandoeningen zoals diabetes, hoge bloeddruk en zelfs de ziekte van Alzheimer opsporen. Hiervoor vertrouwen ze vaak op kleurenfundusfotografie, wat gedetailleerde beelden zijn van de bloedvaten en de oogzenuwkop van het netvlies. In de afgelopen jaren is kunstmatige intelligentie een krachtig hulpmiddel geworden voor het analyseren van deze beelden, waardoor ziekten sneller en nauwkeuriger dan ooit tevoren kunnen worden gedetecteerd. Deze intelligente systemen vereisen echter enorme hoeveelheden echte patiëntgegevens om effectief te leren. Het verzamelen van voldoende hoogwaardige beelden van diverse populaties is moeilijk, duur en roept ernstige privacyzorgen op. Dit creëert een flessenhals: hoe geavanceerder de technologie wordt, hoe moeilijker het wordt om de echte voorbeelden te vinden die nodig zijn om het te onderwijzen.
Onderzoekers zijn een oplossing gaan verkennen: het creëren van kunstmatige, of synthetische, beelden die lijken op en zich gedragen als echte netvliesfoto's. Deze door de computer gegenereerde beelden zijn geen foto's van echte mensen, maar zijn vervaardigd door algoritmen die getraind zijn op echte gegevens om de patronen van gezonde en zieke ogen na te bootsen. Het idee is dat deze synthetische beelden de echte gegevens kunnen aanvullen, waardoor kunstmatige intelligentiemodellen meer kunnen leren zonder dat er miljoenen nieuwe patiëntfoto's hoeven te worden verzameld. Maar een cruciale vraag bleef onbeantwoord: maakt het simpelweg toevoegen van meer neppe beelden het systeem slimmer, of is er een punt waarop de extra beelden niet meer helpen en alleen maar computerkracht verspillen? Een team van onderzoekers zette zich af om het antwoord te vinden door te testen hoe verschillende hoeveelheden synthetische gegevens de prestaties van deze medische AI-modellen beïnvloeden.
Het team begon met een collectie van 28.430 echte netvliesfoto's die waren verzameld uit drie verschillende publieke datasets. Deze beelden kwamen van patiënten uit China, Brazilië en andere regio's, en beslaan een verscheidenheid aan oogziekten. Met behulp van deze echte gegevens trainden zij een computerprogramma om nieuwe, synthetische netvliesbeelden te genereren. Ze creëerden een enorme poel van 568.600 synthetische beelden, wat twintig keer de omvang is van hun oorspronkelijke echte collectie. Om de invloed van deze synthetische beelden op de AI te testen, ontwierpen de onderzoekers zes verschillende trainingsscenario's. Het eerste scenario gebruikte alleen de echte beelden. Het tweede gebruikte alleen de synthetische beelden. De overige vier scenario's mengden de echte beelden met synthetische beelden in toenemende hoeveelheden: één synthetisch beeld voor elk echt beeld, vijf voor elk één, tien voor elk één, en tot slot twintig synthetische beelden voor elk enkel beeld.
Elk van deze zes groepen werd gebruikt om een aparte kunstmatige intelligentie te trainen. Deze modellen werden vervolgens getest op een reeks taken, waaronder de detectie van glaucoom, diabetische retinopathie en leeftijdsgebonden maculadegeneratie. De onderzoekers evalueerden de modellen op twee manieren. Ten eerste testten ze de modellen op gegevens die vergelijkbaar waren met wat ze tijdens de training hadden gezien, bekend als interne validatie. Ten tweede testten ze de modellen op volledig andere datasets van andere ziekenhuizen en regio's, bekend als externe validatie, om te zien of de modellen hun kennis konden generaliseren naar nieuwe situaties. Ze hielden ook nauwgezet de benodigde rekenkracht bij voor elke strategie, waarbij ze het totale aantal wiskundige berekeningen, oftewel floating-point operaties, maten die nodig waren om de beelden te genereren en de modellen te trainen.
De resultaten onthulden een genuanceerd beeld van hoe synthetische gegevens werken. Wanneer de modellen werden getest op bekende gegevens, kwam de beste prestatie voort uit de groep die echte beelden mengde met tien keer zoveel synthetische beelden. Deze combinatie behaalde de hoogste nauwkeurigheidsscores van alle groepen. Echter, wanneer de modellen werden getest op volledig nieuwe, externe gegevens, veranderde het verhaal. De groep die twintig keer zoveel synthetische beelden gebruikte, presteerde het best en toonde het sterkste vermogen om ongeziene gevallen af te handelen. Interessant genoeg presteerde de groep die alleen synthetische beelden gebruikte net zo goed als de groep die alleen echte beelden gebruikte, wanneer het totale aantal beelden gelijk was. Dit suggereert dat synthetische beelden op zichzelf staand als een trainingsbron kunnen dienen, althans voor de geteste taken.
De onderzoekers keken ook naar de kosten van deze winsten. Het genereren van de synthetische beelden vereiste een overweldigende hoeveelheid rekenkracht, wat ongeveer negenennegentig procent van de totale energie in de studie besloeg. De rest werd gebruikt voor het trainen van de modellen. Vanwege dit gegeven vonden de onderzoekers dat het gebruik van een kleinere hoeveelheid synthetische gegevens een betere balans bood tussen prestaties en kosten. De strategie die echte beelden mengde met slechts één synthetisch beeld voor elk echt beeld, leverde een aanzienlijke boost in nauwkeurigheid terwijl het de minste rekenkracht gebruikte van de gemengde strategieën. Het verbeterde de prestaties van de modellen met een betekenisvolle marge zonder de enorme energiekosten van het genereren van duizenden extra beelden.
De studie concludeert dat er niet één "perfect" aantal synthetische gegevens is om te gebruiken. In plaats daarvan hangt de beste aanpak af van het doel. Als de prioriteit ligt bij het bouwen van een model dat goed presteert op nieuwe, ongeziene gegevens van verschillende populaties, is het toevoegen van een groot volume aan synthetische beelden gunstig. Als het doel is om de prestaties efficiënt te verbeteren met beperkte computerbronnen, is het toevoegen van een kleinere hoeveelheid synthetische gegevens de slimmere keuze. De bevindingen suggereren dat synthetische beelden een waardevol hulpmiddel zijn voor het trainen van medische AI, hetzij als een manier om bestaande datasets uit te breiden, hetzij als een zelfstandige bron wanneer echte patiëntgegevens schaars zijn. Door het aantal synthetische gegevens zorgvuldig af te stemmen op de specifieke behoeften van het project en de beschikbare rekenkracht, kunnen onderzoekers robuustere en betrouwbaardere instrumenten voor oogzorg bouwen zonder de privacy van patiënten in gevaar te brengen of digitale middelen uit te putten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.