MIRROR: Multimodal Intelligent Radiology Reasoning and Observation Reporter

In der Welt der medizinischen Bildgebung ist ein Computerprogramm, das ein Bild eines menschlichen Brustkorbs betrachtet und eine Krankheit erkennt, keine Fantasie mehr; es ist eine Realität, die bereits eingetroffen ist. Diese Programme, die auf Deep Learning basieren, können tausende von Röntgenaufnahmen scannen und Muster von Krankheiten identifizieren, die oft dem Können eines menschlichen Spezialisten entsprechen. Doch damit ein Arzt einem solchen Computer vertrauen kann, muss der Computer mehr tun, als nur eine Zahl zu flüstern. Er muss sich erklären. Er muss auf die Stelle im Bild hinweisen, an der er das Problem sieht, und beschreiben, warum er denkt, dass diese Stelle krank ist. Die Gefahr entsteht, wenn ein Computer versucht, einen Bericht für einen Arzt zu schreiben. Wenn der Computer erlaubt ist, das Bild anzusehen, während er den Bericht schreibt, könnte er Details erfinden, die zwar vollkommen professionell klingen, aber nie von dem Teil des Systems gesehen wurden, der die Diagnose stellt. Dies schafft eine stille Lücke zwischen dem, was die Maschine weiß, und dem, was sie zu wissen vorgibt – eine Lücke, die dazu führen könnte, dass ein Arzt einen gefährlichen Fehler macht.

Ein Forschungsteam hat einen Prototyp namens MIRROR entwickelt, um genau dieses Problem des Vertrauens zu lösen. Das System ist nach einer strengen Regel konzipiert: Der Teil der Software, der den Bericht schreibt, darf das Röntgenbild niemals sehen. Stattdessen wird das Bild zuerst von einem Klassifikator analysiert, der lediglich auflistet, welche Krankheiten vorhanden sind und wie wahrscheinlich sie sind. Ein zweites Werkzeug hebt dann den allgemeinen Bereich auf dem Bild hervor, in dem diese Krankheiten auftreten. Nur diese Liste von Befunden und Standorten wird an die Schreibmaschine übergeben. Da der Schreiber das Bild nicht sehen kann, ist es physisch unmöglich für ihn, eine neue Krankheit zu erfinden oder ein Detail zu beschreiben, das er nicht erhalten hat. Die Forscher testeten dieses System an Röntgenaufnahmen des Brustkorbs und fanden heraus, dass der Computer zwar sehr gut darin war, die Wahrscheinlichkeit der Krankheiten einzustufen, er aber Schwierigkeiten hatte, bei den meisten von ihnen eine endgültige Entscheidung zu treffen. Wichtiger noch: Sie entdeckten, dass der Computer selbst dann, wenn er einen flüssigen, professionell klingenden Bericht verfasste, oft spezifische medizinische Messwerte enthielt, die das System eigentlich nie berechnet hatte.

Das Team konstruierte diese Pipeline in drei deutlichen Schritten, um sicherzustellen, dass der endgültige Bericht ehrlich bleibt. Zuerst scannt ein neuronales Netzwerk, eine Art Computerprogramm, das dem menschlichen Gehirn nachempfunden ist, das Röntgenbild und weist vierzehn verschiedenen Arten von Brustzuständen eine Wahrscheinlichkeitsbewertung zu. Zweitens betrachtet ein Lokalisierungswerkzeug dasselbe Bild und zeichnet eine grobe Karte, die zeigt, wo die Krankheit liegt, und übersetzt diesen Ort in einen einfachen Namen wie „oberer linker Lungenflügel“. Drittens nimmt ein Sprachmodell nur die Liste der Krankheiten, deren Scores und deren benannte Standorte, um den endgültigen medizinischen Bericht zu schreiben. Die entscheidende Designentscheidung hierbei ist, dass das Sprachmodell das Röntgenbild selbst nie sieht. Es ist wie ein Sekretär, dem eine getippte Liste von Fakten übergeben wird und der gebeten wird, eine Geschichte zu schreiben, aber dem es verboten ist, die Originaldokumente einzusehen. Dies stellt sicher, dass die Liste der Krankheiten im Bericht exakt mit der Liste übereinstimmt, die der Computer gefunden hat, wodurch verhindert wird, dass das System eine Erkrankung halluziniert, die nie detektiert wurde.

Als die Forscher dieses System an einer großen Sammlung von Röntgenaufnahmen des Brustkorbs testeten, zeigten die Ergebnisse ein komplexes Bild dessen, was die Maschine kann und was sie nicht kann. Der Computer verstand die Struktur der Bilder überraschend gut. Er konnte zwischen einem gesunden und einem kranken Brustkorb unterscheiden und ordnete die Wahrscheinlichkeit von Krankheiten auf eine Weise ein, die weit besser als bloßes Raten war. Für einige Zustände, wie etwa Flüssigkeit in der Lunge oder ein vergrößertes Herz, war das System recht genau. Wenn er jedoch gefragt wurde, eine endgültige Entscheidung darüber zu treffen, ob eine Krankheit vorhanden ist oder nicht, blieb das System bei elf der vierzehn Zuständen, für die es trainiert wurde, stumm. Es war schlichtweg nicht zuversichtlich genug, um bei den meisten von ihnen mit „Ja“ oder „Nein“ zu antworten. Dieses Schweigen war keine Designentscheidung, sondern ein Resultat der Trainingsdaten und der geringen Auflösung der für den Test verwendeten Bilder. Das System lernte, Muster zu erkennen, hatte aber nicht gelernt, die harten Entscheidungen zu treffen, die für eine klinische Diagnose erforderlich sind.

Vielleicht die aufschlussreichste Erkenntnis kam aus der Betrachtung der Berichte, die das System generierte. Da der Schreibteil des Systems so eloquent war, produzierte er Texte, die exakt wie ein von einem menschlichen Arzt geschriebener Bericht klangen. Die Forscher fanden jedoch heraus, dass diese Eloquenz mit einem versteckten Preis einherging. In einem Beispiel besagte der Bericht, dass die Herzgröße normal sei und die Winkel am Boden der Lunge frei seien. Das System hatte weder die Herzgröße gemessen noch die Winkel überprüft. Es hatte diese Sätze einfach eingefügt, weil dies gängige Phrasen in medizinischen Berichten sind. Das System war korrekt in Bezug auf die von ihm detektierten Krankheiten, aber es erfand die Details darum herum. Dies demonstrierte eine kritische Grenze: Das System konnte garantieren, dass die Liste der Krankheiten echt und überprüfbar war, aber es konnte nicht garantieren, dass die Sätze, die sie beschrieben, wahr waren. Der Bericht war in den Belegen für die gefundenen Krankheiten verwurzelt, aber unbegründet in den Details, die es erfand, um die Geschichte zu vervollständigen.

Die Forscher zeigten auch, dass diese Architektur durch einfaches Ändern einer Liste von Namen und Begriffen – statt den gesamten Computercode neu zu schreiben – auf andere Arten von medizinischen Scans wie Hirn-MRTs oder Kopf-CTs angepasst werden kann. Dies deutet darauf hin, dass die Methode, die Detektion vom Schreiben zu trennen, ein flexibles Werkzeug ist, das in verschiedenen medizinischen Fachbereichen funktionieren kann. Das Team war jedoch vorsichtig darauf hinzuweisen, dass es sich um einen Forschungs-Prototyp handelt, nicht um ein medizinisches Gerät, das bereit für den Einsatz in Krankenhäusern ist. Das System wurde noch nicht an echten Patienten getestet, und die Forscher haben noch nicht gemessen, ob das Vorliegen dieser Berichte Ärzten tatsächlich hilft, bessere Entscheidungen zu treffen. Die Arbeit dient als Proof of Concept, der zeigt, dass es möglich ist, ein System zu bauen, in dem die Fakten festgeschrieben sind, selbst wenn die Prosa darum herum dies nicht ist.

Letztendlich liegt der Wert dieser Arbeit in der Klarheit ihrer Grenzen. Das System beweist, dass man eine Maschine bauen kann, die nicht über das lügen kann, was sie gefunden hat, weil der Teil, der den Bericht schreibt, vom Bild abgeschnitten ist. Aber es beweist auch, dass eine Maschine immer noch sehr selbstbewusst über Dinge klingen kann, die sie nicht weiß. Die Forscher kommen zu dem Schluss, dass wir bei hochsensiblen Entscheidungen in der Medizin sehr vorsichtig mit dem sein müssen, was wir vertrauen. Wir können der Liste der Befunde vertrauen, wenn das System so aufgebaut ist, aber wir können den umgebenden Text nicht vertrauen, sofern er nicht von einem Menschen überprüft wird. Das System ersetzt den Arzt nicht; stattdessen bietet es eine neue Möglichkeit zu sehen, wo sich die Maschine sicher ist und wo sie lediglich mutmaßt, indem es eine Black Box in einen transparenten Prozess verwandelt, den ein Mensch auditieren kann.