Intelligent Healthcare: AI and Machine Learning in Diagnosis, Precision Medicine, and the Pursuit of Explainable, Trustworthy Clinical Systems

Krankenhäuser generieren heute eine erschreckende Menge an Informationen. Jedes Mal, wenn ein Patient eintrifft, wird eine Akte erstellt, ein Scan durchgeführt oder ein Bluttest vorgenommen. Diese Daten umfassen Bilder des Körperinneren, Listen von Medikamenten, Notizen von Ärzten und sogar Datenströme von Herzmonitoren. Jahrzehntelang waren menschliche Experten die Einzigen, die in der Lage waren, diese Informationen zu sortieren, um Muster zu finden, die auf Krankheiten hindeuten oder zukünftige Gesundheitsprobleme vorhersagen. Doch das Volumen der Daten ist so stark gewachsen, dass eine manuelle Überprüfung nicht mehr ausreicht. Hier kommt die Künstliche Intelligenz ins Spiel. Dies sind Computersysteme, die darauf ausgelegt sind, aus Beispielen zu lernen, anstatt starren Regeln zu folgen. Sie können darauf trainiert werden, einen Tumor in einem Röntgenbild zu erkennen, so wie ein Radiologe es tun würde, oder eine subtile Veränderung in der Krankengeschichte eines Patienten zu entdecken, die darauf hindeutet, dass ein Herzinfarkt bevorsteht. Das Versprechen ist, dass diese Werkzeuge Ärzten helfen können, klarer zu sehen und schneller zu handeln. Es bleibt jedoch die Frage: Können diesen Systemen genug vertraut werden, um in echten Krankenhäusern eingesetzt zu werden, wo ein Fehler ein Leben kosten könnte?

Eine aktuelle Übersichtsarbeit der Forscher Ekta R. Kaneriya, Maulik K. Shah und Krishna H. Sapariya untersucht genau, wo diese Technologien heute stehen. Die Autoren führten kein neues Experiment mit Patienten durch; stattdessen sammelten und analysierten sie hunderte bestehender Studien und Berichte aus den letzten Jahren. Ihr Ziel war es, die Labor-Experimente, die auf dem Papier gut aussehen, von den Systemen zu trennen, die tatsächlich in realen medizinischen Umgebungen getestet wurden. Sie untersuchten fünf spezifische Bereiche, in denen Künstliche Intelligenz eingesetzt wird: medizinische Bildgebung, elektronische Patientenakten, Wirkstoffforschung, Präzisionsmedizin und Fernüberwachung von Patienten. Was sie fanden, ist ein Feld im Übergang. Die Technologie ist unbestreitbar leistungsstark und hat bereits gezeigt, dass sie in vielen Fällen Diagnosen verbessern und Risiken besser vorhersagen kann als traditionelle Methoden. Dennoch wird der Weg zur flächendeckenden, zuverlässigen Nutzung durch erhebliche Hürden blockiert, darunter Bedenken hinsichtlich des Datenschutzes, die Schwierigkeit zu verstehen, wie der Computer zu seinen Schlussfolgerungen gelangt, und das Risiko, dass die Systeme bei einigen Menschen gut funktionieren, aber bei anderen versagen könnten.

Im Bereich der medizinischen Bildgebung, wie etwa Röntgenaufnahmen und CT-Scans, hat die Technologie die sichtbarsten Fortschritte gemacht. Die Forscher stellten fest, dass Deep-Learning-Systeme – eine Art der Künstlichen Intelligenz, die dem menschlichen Gehirn nachempfunden ist – außergewöhnlich gut darin geworden sind, Krankheiten in Bildern zu erkennen. Beispielsweise können diese Systeme nun Brustkrebs in Mammographien identifizieren oder Hirntumore mit einem hohen Grad an Genauigkeit entdecken. Während der globalen Pandemie wurden diese Werkzeuge schnell eingesetzt, um zwischen verschiedenen Arten von Pneumonie in Thoraxaufnahmen zu unterscheiden. Die Studien zeigen, dass diese Systeme, wenn sie an sorgfältig ausgewählten, bereits existierenden Bildern getestet werden, Genauigkeitsraten von über neunzig Prozent erreichen können. Die Übersicht hebt jedoch eine kritische Lücke hervor. Ein System, das in einem kontrollierten Test perfekt abschneidet, ist nicht zwangsläufig bereit für ein geschäftiges Krankenhaus. Im realen klinischen Einsatz sind die erfolgreichsten Werkzeuge jene, die einen menschlichen Arzt in den Prozess einbinden („human in the loop“). Der Computer mag eine verdächtige Stelle markieren, aber ein Radiologe muss das Bild dennoch überprüfen und das Ergebnis abzeichnen, bevor es Teil der Patientenakte wird. Diese menschliche Aufsicht bleibt essenziell, da der Computer durch Unterschiede in der Ausrüstung oder bei Patientenpopulationen, die er noch nie gesehen hat, getäuscht werden kann.

Jenseits von Bildern wird Künstliche Intelligenz auch auf die riesigen, oft ungeordneten Aufzeichnungen der Krankengeschichte angewendet, die als elektronische Patientenakten bekannt sind. Diese Akten enthalten eine Mischung aus Laborergebnissen, Medikamentenlisten und handschriftlichen Notizen von Ärzten. Die Forscher fanden heraus, dass Machine-Learning-Modelle diese Daten durchforsten können, um schwerwiegende Zustände wie Herzkrankheiten oder Sepsis – eine lebensbedrohliche Reaktion auf eine Infektion – vorherzusagen. In einer großen Übersicht von zwanzig Studien wurde gezeigt, dass diese Computermodelle besser darin sind, Patienten mit einem Risiko für Herzkrankheiten zu identifizieren, als die Standard-Bewertungsmethoden, die Ärzte derzeit verwenden. Ähnlich können Systeme, die Krankenhausakten ständig überwachen, das Personal vor den frühen Anzeichen einer Sepsis warnen und so potenziell dazu beitragen, den Zustand abzufangen, bevor er kritisch wird. Die Technologie wird auch verwendet, um unerwünschte Reaktionen auf Medikamente vorherzusagen oder Patienten zu markieren, die ein Sturzrisiko haben. Dennoch weisen die Autoren darauf hin, dass diese Modelle zwar oft in Forschungspapieren eine starke Leistung zeigen, aber häufig Schwierigkeiten haben, wenn sie in ein anderes Krankenhaus transferiert werden. Ein Modell, das mit Daten aus einer Stadt trainiert wurde, kann in einer anderen Stadt scheitern, weil die Art und Weise, wie Ärzte Notizen schreiben, oder die verwendete Ausrüstung erheblich variieren können. Dieser Mangel an Zuverlässigkeit außerhalb der ursprünglichen Testumgebung ist eine große Barriere für das Vertrauen.

Die Auswirkungen dieser Technologien erstrecken sich bis in das Labor, wo sie die Entdeckung neuer Medikamente beschleunigen. Der traditionelle Prozess der Suche nach einem neuen Medikament dauert über ein Jahrzehnt und kostet Milliarden von Dollar, wobei die meisten Kandidatenverbindungen auf dem Weg scheitern. Künstliche Intelligenz hilft nun dabei, diesen Zeitrahmen zu verkürzen, indem sie vorhersagt, wie verschiedene Moleküle mit dem Körper interagieren werden. Die Forscher beobachteten, dass diese Werkzeuge in der Lage sind, völlig neue Wirkstoffkandidaten von Grund auf zu entwerfen, anstatt nur bestehende Chemikalienbibliotheken zu screenen. Einige Systeme können sogar simulieren, wie ein Medikament Nebenwirkungen verursachen könnte, noch bevor es jemals an einem Tier getestet wird. Trotz dieser Verheißung warnt die Übersicht jedoch davor, dass computationaler Erfolg keine biologische Realität garantiert. Ein Molekül, das auf einem Computerbildschirm perfekt aussieht, scheitert oft bei Tests an einem lebenden Organismus. Nur ein kleiner Bruchteil der in wissenschaftlichen Journalen veröffentlichten Wirkstoffforschungsarbeit erreicht tatsächlich das Stadium der Validierung an Tieren, was uns daran erinnert, dass die Lücke zwischen einer digitalen Simulation und einem wirksamen Medikament immer noch groß ist.

Im Bereich der Präzisionsmedizin ist das Ziel, von der Behandlung aller Patienten auf die gleiche Weise abzurücken und stattdessen Behandlungen individuell auf die spezifische genetische und molekulare Beschaffenheit eines Einzelnen zuzuschneiden. Künstliche Intelligenz ist der Motor, der dies ermöglicht, da sie Daten aus der DNA-Sequenzierung, medizinischen Bildern und Gesundheitsakten kombinieren kann, um ein vollständiges Bild eines Patienten zu erstellen. Die Forscher hoben Beispiele hervor, in denen diese Systeme helfen, seltene genetische Störungen anhand von Gesichtsfotos zu identifizieren oder Krebspatienten basierend auf ihrem einzigartigen molekularen Profil passenden Therapien zuzuordnen. Hierbei entsteht jedoch ein ernstes Problem bezüglich der Fairness. Die Daten, die zur Ausbildung dieser Systeme verwendet wurden, stammen historisch gesehen hauptsächlich von Menschen europäischer Abstammung. Folglich können die Modelle bei Patienten aus anderen Bevölkerungsgruppen weniger genaue Ergebnisse liefern, was die gesundheitlichen Ungleichheiten potenziell verschlimmern könnte. Die Autoren betonen, dass dies nicht nur ein technisches Problem ist, das mit besserer Mathematik gelöst werden kann, sondern ein Datenproblem, das die Erhebung vielfältigerer Informationen aus unterrepräsentierten Bevölkerungsgruppen erfordert.

Schließlich betrachtet die Übersicht die Fernüberwachung von Patienten, bei der tragbare Geräte Gesundheitsdaten wie Herzfrequenz und Sauerstoffgehalt außerhalb des Krankenhauses verfolgen. Künstliche Intelligenz analysiert diesen kontinuierlichen Informationsstrom, um frühe Warnzeichen einer Verschlechterung zu erkennen. In der Pflege von Herzinsuffizienz können diese Systeme beispielsweise Ärzte vor Veränderungen warnen, die eine Krankenhauseinweisung verhindern könnten. Die US-amerikanische Food and Drug Administration hat bereits Dutzende dieser KI-gestützten Überwachungsgeräte zugelassen, was darauf hindeutet, dass dieser Bereich in Bezug auf die Regulierung weiter fortgeschritten ist als andere. Dennoch stellen die Forscher fest, dass diese Systeme sorgfältig konzipiert sein müssen, um Ärzte nicht mit zu vielen Fehlalarmen zu belasten – ein Problem, das als „Alert Fatigue“ (Alarmmüdigkeit) bekannt ist. Wenn ein System zu oft Alarm schlägt, beginnen Kliniker möglicherweise, ihn zu ignorieren, was den eigentlichen Zweck vereitelt.

Trotz dieser Erfolge identifizieren die Forscher mehrere tiefgreifende Herausforderungen, die gelöst werden müssen, bevor Künstliche Intelligenz zu einem Standardbestandteil der medizinischen Versorgung wird. Eines der größten Probleme ist der Datenschutz. Diese Systeme benötigen Zugang zu sensiblen Patientendaten, und selbst wenn Daten anonymisiert werden, können sie manchmal wieder identifiziert werden. Es gibt auch das „Black Box“-Problem. Viele der leistungsfähigsten KI-Modelle sind so komplex, dass selbst ihre Schöpfer nicht vollständig erklären können, wie sie zu einem spezifischen Schluss gekommen sind. In der Medizin, wo eine Fehlentscheidung zu einer Fehldiagnose oder einer schädlichen Behandlung führen kann, zögern Ärzte, einem System zu vertrauen, das sie nicht verstehen können. Diese Undurchsichtigkeit schafft rechtliche und ethische Risiken. Darüber hinaus ist die Rechenleistung, die zur Ausführung dieser Systeme erforderlich ist, immens, was kleinere Krankenhäuser zurücklassen könnte, die nicht über die notwendige Technologie verfügen können.

Um diese Bedenken auszuräumen, verweist die Übersicht auf das wachsende Feld der erklärbaren Künstlichen Intelligenz (Explainable AI). Dieser Ansatz zielt darauf ab, die Argumentation des Computers sichtbar zu machen, etwa indem der spezifische Teil eines Röntgenbildes hervorgehoben wird, der zu einer Diagnose führte, oder indem die Laborwerte aufgelistet werden, die eine Warnung ausgelöst haben. Die Forscher fanden heraus, dass diese Erklärungen zwar helfen können, Vertrauen aufzubauen, aber keine perfekte Lösung sind. Ein System kann eine klare Erklärung liefern, die dennoch falsch ist, oder die Erklärung kann technisch korrekt, aber für einen beschäftigten Arzt nicht nützlich sein. Der Weg nach vorne erfordert eine Kombination aus besseren Regulierungen, vielfältigeren Daten und einem Wandel in der Art und Weise, wie diese Werkzeuge entwickelt werden. Die Zukunft der medizinischen Künstlichen Intelligenz liegt nicht im Ersatz von Ärzten, sondern in der Schaffung einer Partnerschaft, in der der Computer die massiven Datenprozesse übernimmt und der Mensch das Urteilsvermögen, den Kontext und die Empathie bereitstellt.

Die Autoren kommen zu dem Schluss, dass der Übergang der Künstlichen Intelligenz von experimentellen Laboren in die praktische Anwendung mehr als nur hohe Genauigkeit erfordert. Sie verlangt robuste Tests in verschiedenen Krankenhäusern, transparente Modelle, die Ärzte verstehen können, und strikte Bestimmungen zum Schutz der Privatsphäre der Patienten. Die Technologie hat das Potenzial, das Gesundheitswesen zu transformieren, indem sie Diagnosen präziser und Behandlungen persönlicher macht. Aber damit dieses Potenzial realisiert werden kann, muss die umgebende Infrastruktur so gebaut sein, dass diese Systeme fair, sicher und vertrauenswürdig sind. Die nächsten Jahre werden entscheiden, ob das Feld in der Lage ist, diese Barrieren zu überwinden, um die Vorteile der Künstlichen Intelligenz jedem Patienten zugänglich zu machen, unabhängig davon, wo er lebt oder welchen Hintergrund er hat.