Pretraining on Adult ICU Data Accelerates Data Efficient AI Model Development in Critically Ill Children

Krankenhäuser sind gewaltige Speicherstätten menschlicher Erfahrung, die jeden Herzschlag, jeden Atemzug und jeden Bluttest in digitalen Strömen aufzeichnen. Seit Jahrzehnten versuchen Wissenschaftler, Computern beizubringen, diese Ströme zu lesen, in der Hoffnung vorherzusagen, wann ein Patient sich verschlechtern könnte oder wann er bereit für die Entlassung ist. Dieses Feld, bekannt als klinisches maschinelles Lernen, arbeitet am besten, wenn es über Berge von Daten verfügt, aus denen es lernen kann. Das Problem ist, dass diese Berge nicht gleichmäßig verteilt sind. Die Intensivstationen für Erwachsene sind groß, gut finanziert und generieren massive Mengen an Informationen, auf die Forscher zugreifen und die sie untersuchen können. Pädiatrische Intensivstationen, auf denen Kinder behandelt werden, sind viel kleiner, oft über Spezialzentren verstreut und ihre Daten werden selten geteilt oder sind nicht leicht zugänglich. Dies schafft eine schwierige Situation: Wie baut man ein intelligentes Computerprogramm, um kranken Kindern zu helfen, wenn man nicht genügend Beispiele von kranken Kindern hat, um es zu lehren?

Eine potenzielle Lösung ist eine Technik namens Transfer Learning. Stellen Sie sich einen Studenten vor, der jahrelang die Geschichte eines Landes studiert hat und dann versucht, die Geschichte eines Nachbarlandes zu lernen. Er kann seine alten Notizen nicht einfach kopieren, da die Daten und Ereignisse anders sind, aber er kann sein Verständnis darüber, wie Imperien aufsteigen und fallen oder wie die Geografie die Politik formt, nutzen, um die neue Geschichte viel schneller zu lernen als jemand, der bei Null anfängt. In der Welt der künstlichen Intelligenz bedeutet dies, ein Modell zu nehmen, das bereits aus einem riesigen Datensatz von erwachsenen Patienten gelernt hat, und dieses Wissen als Ausgangspunkt zu nutzen, um über Kinder zu lernen. Die große Frage, der sich die Forscher gestellt haben, war, ob dieser Abkürzung tatsächlich funktioniert. Versteht der Computer die zugrunde liegenden Muster der Krankheit wirklich gut genug, um bei Kindern zu helfen, oder sind die Unterschiede zwischen Erwachsenen und Kindern zu groß, als dass das Modell diese Brücke schlagen könnte?

Ein Team von Forschern vom Imperial College London und mehreren britischen Krankenhäusern setzte sich zum Ziel, dies zu testen, indem sie die Grenzen dieses Ansatzes untersuchten. Sie begannen mit einem massiven Datensatz von über 71.000 Intensivaufenthalten von Erwachsenen aus den USA, einer bekannten Ressource namens MIMIC-IV. Sie trainierten Computermodelle auf diesen Erwachsenendaten, um sechs spezifische Aufgaben auszuführen: vorherzusagen, ob ein Patient sterben würde, wie lange er im Krankenhaus bleiben würde, ob er eine Nierenschädigung entwickeln würde, ob er eine Sepsis entwickeln würde, wie gut seine Nieren funktionierten und ob er bereit war, von einem Beatmungsgerät entwöhnt zu werden. Sobald diese Modelle trainiert waren, nahmen die Forscher sie mit in drei verschiedene pädiatrische Intensivstationen im Vereinigten Königreich, die zusammen Daten von etwa 17.700 Kindern enthielten.

Der erste Test bestand darin zu sehen, was passieren würde, wenn sie die mit Erwachsenen trainierten Modelle einfach auf die Kinder anwenden würden, ohne weitere Anpassung. Dies ist bekannt als ein „Zero-Shot“-Deployment, bei dem der Computer versucht, sein Wissen über Erwachsene direkt auf die neue Situation anzuwenden. Die Ergebnisse waren eindeutig und enttäuschend. Die Modelle schnitten schlecht ab. Bei der Vorhersage der Sterblichkeit waren die Modelle für Erwachsene weit weniger genau als Modelle, die speziell auf den Daten der Kinder trainiert wurden. Sie machten auch signifikante Fehler bei der Vorhersage von Sepsis und Nierenproblemen. Tatsächlich waren die Modelle so sicher in ihren falschen Antworten, dass sie oft ein sehr hohes Sterberisiko für Kinder vorhersagten, die eigentlich gesund waren. Dies zeigte, dass man nicht einfach ein für Erwachsene gebautes Modell nehmen und erwarten kann, dass es für Kinder funktioniert; die biologischen Unterschiede sind zu signifikant, um sie zu ignorieren.

Die Geschichte endete jedoch nicht hier. Die Forscher stellten dann eine nuanciertere Frage: Wenn man mit dem Modell für Erwachsene beginnt, es dann aber mit einer kleinen Menge lokaler pädiatrischer Daten lernen lässt, wird es dann besser? Sie testeten dies, indem sie das mit Erwachsenen trainierte Modell nahmen und es mit nur 100 pädiatrischen Patientendatensätzen „feinzustimmen“ (fine-tuning). Sie verglichen dies mit dem Training eines völlig neuen Modells von Grund auf unter Verwendung derselben 100 Datensätze. Der Unterschied war frappierend. Das Modell, das mit dem Wissen über Erwachsene begann und sich dann an die Kinder anpasste, schnitt signifikant besser ab als das Modell, das bei Null anfing. In jeder einzelnen Aufgabe und an jedem Krankenhausstandort war das Modell, das den Vorsprung durch die Erwachsenendaten hatte, genauer. Bei der Vorhersage der Sterblichkeit war der Vorteil beispielsweise beträchtlich, wobei das angepasste Modell eine viel deutlichere Fähigkeit zeigte, zwischen Patienten, die überleben würden, und solchen, die nicht überleben würden, zu unterscheiden.

Die Forscher untersuchten auch, was geschah, wenn sie mehr Daten hinzufügten. Als sie die Anzahl der pädiatrischen Datensätze von 100 auf den vollen Datensatz von Tausenden erhöhten, verengte sich die Lücke zwischen den beiden Ansätzen. Das ergibt Sinn: Wenn man über genügend Daten verfügt, kann man ein neues Modell alles lehren, was es wissen muss, ohne Hilfe. Aber die Schlüsselerkenntnis war, dass das Vortraining mit Erwachsenendaten es dem Modell ermöglichte, ein hohes Leistungsniveau mit weitaus weniger pädiatrischen Beispielen zu erreichen. In vielen Fällen schnitt das Modell, das mit dem Wissen über Erwachsene begann und aus ein paar hundert Kindern lernte, so gut ab wie ein Modell, das von Grund auf mit Tausenden von Kindern trainiert wurde. Dies deutet darauf hin, dass die Nutzung des Wissens über Erwachsene als Fundament für Krankenhäuser mit sehr geringen Datenmengen ein leistungsstarker Weg ist, um zu beginnen.

Die Studie untersuchte auch genau, was der Computer ändern musste, damit dies funktionierte. Sie fanden heraus, dass es nicht ausreichte, lediglich die Zahlen anzupassen, die der Computer zur Messung der Patienten verwendete (wie etwa die Berechnung des durchschnittlichen Blutdrucks), um das Problem zu lösen. Der Computer musste tatsächlich die Beziehungen zwischen den Datenpunkten neu lernen. Als die Forscher den Teil des Computers, der Muster erkennt, „einfroren“ und nur die letzte Entscheidungsebene trainierten, verbesserte sich das Modell erheblich und stellte den Großteil der verlorenen Genauigkeit wieder her. Dies deutet darauf hin, dass das Modell für Erwachsene nützliche Muster darüber gelernt hatte, wie der Körper auf Stress und Krankheit reagiert, aber es musste neu trainiert werden, um diese Muster auf den spezifischen Kontext eines Kinderkörpers anzuwenden.

Letztendlich bietet die Forschung einen klaren Weg nach vorn für die Entwicklung künstlicher Intelligenz in der pädiatrischen Versorgung. Sie zeigt, dass man zwar nicht einfach ein Modell für Erwachsene kopieren und einfügen kann, um ein Kind zu retten, man aber das Modell für Erwachsene als kraftvolle Sprungfeder nutzen kann. Indem man mit dem umfassenden Wissen der Intensivmedizin für Erwachsene beginnt und dieses dann sorgfältig an lokale pädiatrische Daten anpasst, können Krankenhäuser effektive Entscheidungsunterstützungstools viel schneller und mit weita viel weniger Daten entwickeln. Die Studie bestätigt, dass dieser Ansatz dort am wertvollsten ist, wo Daten am knappsten sind, und bietet einen Weg, fortschrittliche medizinische KI zu kleineren, spezialisierten Zentren zu bringen, die sonst vielleicht zurückgelassen würden. Es ist eine Erinnerung daran, dass wir in dem Bestreben, den kränksten Patienten zu helfen, manchmal von den Erfahrungen anderer lernen können, sofern wir bereit sind, die Arbeit zu leisten, um die Unterschiede zu verstehen.