Quantifying the Effect of Synthetic Colour Fundus Photograph Scaling on Foundation Models
Diese Studie zeigt, dass die Skalierung synthetischer farbiger Fundusfotografien während des Pretrainings von Foundation-Modellen eine abstimmbare Strategie bietet, bei der eine Ergänzung mit geringerem Volumen das Leistungs-Rechen-Verhältnis optimiert, während größere Volumina die externe Generalisierung signifikant verbessern, wobei der optimale Ansatz von den spezifischen Evaluationszielen und den verfügbaren Rechenressourcen abhängt.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das menschliche Auge bietet ein einzigartiges Fenster in den allgemeinen Gesundheitszustand des Körpers. Durch die Untersuchung der Retina, der lichtempfindlichen Schicht am hinteren Teil des Auges, können Ärzte Anzeichen von Erkrankungen wie Diabetes, Bluthochdruck und sogar Alzheimer entdecken. Um dies zu tun, verlassen sie sich oft auf Farbfundusfotografien, bei denen es sich um detaillierte Bilder der Blutgefäße und der Papille der Retina handelt. In den letzten Jahren hat die künstliche Intelligenz eine leistungsstarke Rolle bei der Analyse dieser Bilder übernommen und hilft dabei, Krankheiten schneller und genauer als je zuvor zu erkennen. Diese intelligenten Systeme benötigen jedoch riesige Mengen an echten Patientendaten, um effektiv zu lernen. Das Sammeln von ausreichend hochwertigen Bildern aus vielfältigen Populationen ist schwierig, teuer und wirft ernsthafte Datenschutzbedenken auf. Dies schafft einen Engpass: Je fortschrittlicher die Technologie wird, desto schwieriger wird es, die realen Beispiele zu finden, die benötigt werden, um sie zu lehren.
Forscher haben begonnen, eine Lösung zu erforschen: das Erstellen künstlicher oder synthetischer Bilder, die wie echte Retinafotografien aussehen und sich wie diese verhalten. Diese computergenerierten Bilder sind keine Fotografien echter Menschen, sondern wurden von Algorithmen entworfen, die auf echten Daten trainiert wurden, um die Muster gesunder und erkrankter Augen nachzuahmen. Die Idee ist, dass diese synthetischen Bilder die echten Daten ergänzen könnten, sodass künstliche Intelligenzmodelle mehr lernen können, ohne Millionen neuer Patientenfotos sammeln zu müssen. Aber eine kritische Frage blieb unbeantwortet: Macht das bloße Hinzufügen von mehr gefälschten Bildern das System klüger, oder gibt es einen Punkt, an dem die zusätzlichen Bilder nicht mehr helfen und nur noch Rechenleistung verschwenden? Ein Forscherteam setzte sich zum Ziel, die Antwort zu finden, indem sie testete, wie sich unterschiedliche Mengen an synthetischen Daten auf die Leistung dieser medizinischen KI-Modelle auswirken.
Das Team begann mit einer Sammlung von 28.430 echten Retinafotografien, die aus drei verschiedenen öffentlichen Datensätzen stammten. Diese Bilder stammten von Patienten aus China, Brasilien und anderen Regionen und deckten eine Vielzahl von Augenerkrankungen ab. Mit diesen realen Daten trainierten sie ein Computerprogramm, um neue, synthetische Retinabilder zu erzeugen. Sie erstellten einen massiven Pool von 568.600 synthetischen Bildern, was zwanzigmal so groß ist wie ihre ursprüngliche reale Sammlung. Um den Einfluss dieser synthetischen Bilder auf die KI zu testen, entwarfen die Forscher sechs verschiedene Trainingsszenarien. Das erste Szenario nutzte nur die realen Bilder. Das zweite nutzte nur die synthetischen Bilder. Die verbleibenden vier Szenarien mischten die realen Bilder mit synthetischen Bildern in steigenden Mengen: ein synthetisches Bild für jedes reale Bild, fünf für jedes eine, zehn für jedes eine und schließlich zwanzig synthetische Bilder für jedes einzelne reale Bild.
Jede dieser sechs Gruppen wurde verwendet, um ein separates Modell der künstlichen Intelligenz zu trainieren. Diese Modelle wurden dann einer Reihe von Aufgaben unterzogen, darunter die Erkennung von Glaukom, diabetischer Retinopathie und altersbedingter Makuladegeneration. Die Forscher evaluierten die Modelle auf zwei Arten. Erstens testeten sie sie an Daten, die denen ähnlich waren, die sie während des Trainings gesehen hatten, bekannt als interne Validierung. Zweitens testeten sie sie an völlig anderen Datensätzen aus anderen Krankenhäusern und Regionen, bekannt als externe Validierung, um zu sehen, ob die Modelle ihr Wissen auf neue Situationen übertragen können. Sie verfolgten auch sorgfältig die Menge der benötigten Rechenleistung für jede Strategie, indem sie die Gesamtzahl der mathematischen Berechnungen, oder Gleitkommaoperationen, maßen, die zur Generierung der Bilder und zum Training der Modelle erforderlich waren.
Die Ergebnisse zeichneten ein nuanciertes Bild davon, wie synthetische Daten funktionieren. Wenn die Modelle mit vertrauten Daten getestet wurden, kam die beste Leistung von der Gruppe, die reale Bilder mit zehnmal so vielen synthetischen Bildern mischte. Diese Kombination erreichte die höchsten Genauigkeitswerte unter allen Gruppen. Als die Modelle jedoch auf völlig neuen, externen Daten getestet wurden, änderte sich die Geschichte. Die Gruppe, die zwanzigmal so viele synthetische Bilder verwendete, schnitt am besten ab und zeigte die stärkste Fähigkeit, mit ungesehenen Fällen umzugehen. Interessanterweise schnitt die Gruppe, die nur synthetische Bilder verwendete, genauso gut ab wie die Gruppe, die nur reale Bilder verwendete, wenn die Gesamtzahl der Bilder gleich war. Dies deutet darauf hin, dass synthetische Bilder als Trainingsressource eigenständig bestehen können, zumindest für die getesteten Aufgaben.
Die Forscher untersuchten auch die Kosten dieser Gewinne. Die Generierung der synthetischen Bilder erforderte eine gewaltige Menge an Rechenleistung und machte etwa neunundneunzig Prozent der in der Studie verwendeten Gesamtenergie aus. Der Rest wurde für das Training der Modelle verwendet. Aufgrund dessen fanden die Forscher heraus, dass die Verwendung einer kleineren Menge an synthetischen Daten ein besseres Gleichgewicht zwischen Leistung und Kosten bietet. Die Strategie, die reale Bilder mit nur einem synthetischen Bild für jedes reale Bild mischte, bot einen signifikanten Schub in der Genauigkeit bei gleichzeitig geringstem Einsatz an Rechenleistung unter den gemischten Strategien. Sie verbesserte die Leistung der Modelle um eine bedeutsame Spanne, ohne die massiven Energiekosten für die Generierung von Tausenden zusätzlicher Bilder zu verursachen.
Die Studie kommt zu dem Schluss, dass es nicht die eine „perfekte“ Menge an synthetischen Daten gibt, die man verwenden sollte. Stattdessen hängt der beste Ansatz vom Ziel ab. Wenn die Priorität darin besteht, ein Modell zu bauen, das bei neuen, ungesehenen Daten aus verschiedenen Populationen gut abschneidet, ist das Hinzufügen eines großen Volumens an synthetischen Bildern vorteilhaft. Wenn das Ziel darin besteht, die Leistung effizient mit begrenzten Rechenressourcen zu verbessern, ist es die klügere Wahl, eine kleinere Menge an synthetischen Daten hinzuzufügen. Die Ergebnisse legen nahe, dass synthetische Bilder ein wertvolles Werkzeug für das Training medizinischer KI sind, entweder als Weg, um bestehende Datensätze zu erweitern, oder als eigenständige Ressource, wenn reale Patientendaten knapp sind. Indem man die Menge der synthetischen Daten sorgfältig auf die spezifischen Bedürfnisse des Projekts und die verfügbare Rechenleistung abstimmt, können Forscher robustere und zuverlässigere Werkzeuge für die Augenheilkunde entwickeln, ohne die Privatsphäre der Patienten zu gefährden oder digitale Ressourcen zu erschöpfen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.