Intelligence Preserves The System It Assists

In den modernen Krankenhäusern vollzieht sich eine stille Revolution, bei der Computer lernen, medizinische Bilder zu lesen und Patientenergebnisse vorherzusagen. Jahrelang war die Standardmethode, um Erfolg in diesem Bereich zu messen, ein einfacher Wettbewerb: Man stellte einen Computeralgorithmus gegen einen menschlichen Arzt und sah nach, wer öfter die richtige Antwort gab. Wenn die Maschine höher punktete, wurde sie als Durchbruch gefeiert; wenn der Arzt gewann, galt die Maschine als gescheitert. Dieser Ansatz setzt voraus, dass der Arzt und der Computer Rivalen sind, die um denscheben Job konkurrieren, und dass das Ziel darin besteht, einen einzigen, perfekten Prädiktor zu finden, der das menschliche Urteilsvermögen ersetzen kann. Diese Sichtweise übersieht jedoch eine grundlegende Realität der Medizin: Der Akt der Behandlung verändert den Patienten. Wenn ein Chirurg Gewebe schneidet, eine Pflegekraft die Medikamentenzufuhr anpasst oder ein Arzt eine neue Therapie einleitet, ist die Situation, die sie beobachten, nicht mehr dieselbe wie noch einen Moment zuvor. Die sehr Handlung, die unternommen wird, um dem Patienten zu helfen, verändert den Verlauf der Krankheit, was eine auf Vergangenheitsdaten basierende Vorhersage im exakten Moment, in dem sie am dringendsten benötigt wird, potenziell nutzlos macht.

Eine neue Studie von Maurice Antony Ewing stellt diese kompetitive Denkweise infrage, indem sie untersucht, wie Computer und Ärzte zusammenarbeiten können, anstatt gegeneinander. Anstatt zu fragen, welcher Akteur insgesamt genauer ist, stellt die Forschung eine andere Frage: Wann ergänzen sich ihre Stärken und Schwächen? Die Studie legt nahe, dass Computer zwar exzellent darin sind, vorherzusagen, was passieren würde, wenn sich nichts ändert, aber oft scheitern, wenn eine Behandlung den Zustand eines Patienten aktiv umgestaltet. Im Gegensatz dazu sind menschliche Ärzte geschickt darin, zu bemerken, wenn eine Situation vom erwarteten Pfad abweicht, aber sie übersehen möglicherweise subtile Muster in riesigen Datenmengen. Der Kern der Idee ist, dass der wahre Wert eines Computers im Krankenhaus nicht darin liegen könnte, der beste Prädiktor zu sein, sondern darin, als spezialisierter Sensor zu fungieren, der gezielt dann Alarm schlägt, wenn sich der Zustand des Patienten aufgrund medizinischer Interventionen auf unerwartete Weise verändert.

Um diese Idee zu testen, untersuchte der Forscher fünf verschiedene Arten medizinischer Daten, die von den blitzschnellen Bewegungen eines robotischen chirurgischen Arms bis hin zum langsamen, monatelangen Verlauf einer Krebsbehandlung reichen. In jedem Fall wurde zuerst ein Standard-Computermodell trainiert, um den „normalen“ Pfad zu erlernen, dem ein Patient oder ein Eingriff folgen sollte. In der robotergestützten Chirurgie lernte das Modell beispielsweise die typische Geschwindigkeit und Richtung einer Nadel, die durch Gewebe gleitet. Auf der Intensivstation lernte es, wie der Blutdruck eines Patienten normalerweise auf Medikamente reagiert. Die Forscher führten dann ein zweites, „augmentiertes“ Modell ein, das etwas anderes tun sollte: Anstatt nur die Zukunft vorherzusagen, überwachte es Momente, in denen die tatsächlichen Ereignisse signifikant vom vorhergesagten Pfad abwichen. Die Forscher enthüllten nicht die spezifischen mathematischen Formeln oder den exakten Code, der verwendet wurde, um dieses zweite Modell zu bauen, da diese Details als geschützte Implementierung behandelt wurden, aber sie maßen dennoch, wie gut dieses System im Vergleich zu menschlichen Ärzten und Standard-Computermodellen abschnitt.

Die Ergebnisse zeigten ein auffälliges Muster, das in allen fünf medizinischen Settings Bestand hatte. In Situationen, in denen alles reibungslos verlief und der Zustand des Patienten stabil war, war das augmentierte Modell tatsächlich schlechter als sowohl der menschliche Arzt als als auch das Standard-Computermodell. Beispielsweise war das augmentierte Modell in stabilen Zuständen in den Intensivstationsdaten nur in etwa 25,6 % der Fälle korrekt, während der menschliche Arzt in 34,6 % der Fälle korrekt war. Die Geschichte drehte sich jedoch völlig, als sich der Zustand des Patienten unerwartet änderte. In jenen Momenten der „Abweichung“, in denen die Physiologie des Patienten oder der chirurgische Eingriff vom Normpfad divergierte, wurde das augmentierte Modell zum klaren Spitzenreiter. In denselben Intensivstationsdaten war das augmentierte Modell in instabilen Zuständen zu 46,9 % korrekt, was den menschlichen Arzt, der nur zu 20,5 % korrekt war, und das Standard-Computermodell, das zu 19,6 % korrekt war, deutlich übertraf.

Dieser Crossover-Effekt war kein Zufall; er trat konsistent über die verschiedenen Datentypen hinweg auf. In der robotergestützten Chirurgie markierte das System Momente kurz vor einer Änderung der Technik des Chirurgen, wie etwa beim Wechsel vom Knüpfen eines Knotens zum Durchführen einer Nadel, und identifizierte diese Übergänge als Zeiten, in denen die üblichen Bewegungsregeln nicht mehr galten. In laparoskopischen Videos hob das System komplexe Phasen der Operation hervor, wie etwa wenn ein Chirurg eine Gallenblase retrahiert, wobei die visuelle Szene chaotisch und unvorhersehbar wurde. Im Fall der Hirnkrebsbehandlung erwies sich das System nur dann als nützlich, wenn man die gesamte Behandlungsdauer über Wochen betrachtete, da die „Deformation“ des Krankheitsverlaufs ein langsamer Prozess war, der in einer einzelnen Momentaufnahme nicht sichtbar war. Die Studie fand heraus, dass der Wert dieses augmentierten Systems nicht davon abhing, wie gut die ursprüngliche Vorhersage war. Selbst wenn das Standard-Computermodell sehr genau die Zukunft vorhersagte, fand das augmentierte System dennoch einen Wert darin, die Momente zu identifizieren, in denen diese Vorhersage nicht mehr Bestand hatte.

Die Forschung hob auch hervor, dass diese Hilfsbereitschaft vollständig vom Timing abhängt. Genau wie eine Kamera die richtige Verschlusszeit benötigt, um ein schnell bewegendes Objekt ohne Bewegungsunschärfe einzufangen, musste dieses System den richtigen Zeitraum betrachten, um die Veränderung zu sehen. In der Krebsstudie war das System weniger effektiv, wenn es kurze, isolierte Zeitfenster betrachtete, aber durch die Betrachtung der gesamten Behandlungsreihe konnte es die Deformation des Krankheitsverlaufs erkennen. Dies deutet darauf hin, dass das System kein universeller Ersatz für einen Arzt ist, sondern ein spezialisiertes Werkzeug, das erst dann essenziell wird, wenn sich die Situation in einem Fluss befindet. Die Studie stellt explizit fest, dass sie nicht behauptet, das Problem der autonomen Chirurgie oder Behandlung gelöst zu haben, und auch kein fertiges Softwareprodukt für Krankenhäuser bereitstellt. Die spezifischen Methoden, mit denen das System diese Veränderungen erkennt, bleiben unveröffentlicht, und die Ergebnisse basieren auf der Betrachtung vergangener Daten statt auf Tests in einem lebenden Operationssaal.

Letztendlich argumentiert die Arbeit, dass die Zukunft der medizinischen künstlichen Intelligenz nicht darin liegt, Maschinen zu bauen, die versuchen, bessere Ärzte als Menschen zu sein, sondern Systeme zu schaffen, die verstehen, wenn sich die Regeln des Spiels geändert haben. Die effektivste Zusammenarbeit könnte eine sein, bei der ein Standard-Computer die routinemäßigen, vorhersehbaren Teile eines Falls übernimmt, während ein spezialisiertes, interventionsbewusstes System nach den Momenten Ausschau hält, in denen sich der Zustand des Patienten auf eine Weise verschiebt, die dem Plan trotzt. In diesen kritischen Momenten der Abweichung kann das System eine andere Art von Intelligenz bieten – eine, die erkennt, dass sich der Boden unter der Vorhersage bewegt hat. Die Studie kommt zu dem Schluss, dass die richtige Frage für das Fachgebiet nicht darin besteht, ob eine Maschine einen Arzt schlagen kann, sondern wo ihre Informationen am komplementärsten sind, um sicherzustellen, dass die Technologie das System, dem sie assistiert, bewahrt, indem sie Klinikern hilft, die unvorhersehbaren Momente der Versorgung zu navigieren.