Generated Context versus Governed State: Functional Conditions for Accountable Longitudinal Clinical Reasoning

Seit Jahrzehnten sind die digitalen Aufzeichnungen unserer Gesundheit nichts weiter als digitale Aktenschränke. Wenn ein Arzt eine Notiz über den Blutdruck eines Patienten schreibt oder eine Pflegekraft eine Medikamentenänderung dokumentiert, werden diese Informationen als Dokument gespeichert, ähnlich wie ein Brief in einer Schublade. Um den aktuellen Zustand eines Patienten zu verstehen, muss ein Mensch diese Briefe lesen, die Geschichte zusammensetzen und das Gesamtbild im Geist behalten. Dies war schon immer die Aufgabe des Kliniker: die Wahrheit über die Gesundheit eines Menschen aus einer verstreuten Sammlung von Papieren zu rekonstruieren. In den letzten Jahren sind leistungsstarke Computersysteme namens Large Language Models aufgetaucht, die in der Lage sind, diese Dokumente mit unglaublicher Geschwindigkeit und Flüssigkeit zu lesen. Sie können die Krankengeschichte eines Patienten in Sekundenschnelle zusammenfassen und Fragen beantworten, für deren Recherche ein Mensch einst Stunden benötigt hätte. Aber während diese Systeme exzellent darin sind, den Text zu lesen, führen sie nicht von Natur aus ein separates, organisiertes Protokoll darüber, was in diesem Moment tatsächlich wahr ist über den Patienten. Sie behandeln die Krankengeschichte als einen Strom von Wörtern, der verarbeitet werden muss, und nicht als einen lebendigen Zustand, der verfolgt werden muss.

Diese Lücke zwischen flüssigem Lesen und präzisem Wissen ist das zentrale Problem, das ein neues Paper von Forschern bei MyndwareMed adressiert. Die Autoren argumentieren, dass die Behandlung der Krankengeschichte eines Patienten als eine einfache Sammlung von Texten ein fundamentaler Fehler ist, wenn man versucht, eine künstliche Intelligenz aufzubauen, der man die Langzeitpflege anvertrauen kann. Sie schlagen vor, dass klinische Argumentation kein Leseverständnis-Test ist, sondern ein Problem der Verfolgung einer sich ändernden Realität. Genau wie ein Roboter, der durch einen Raum navigiert, ständig seine Karte darüber aktualisieren muss, wo Wände und Türen sind, muss ein medizinisches System eine kontinuierliche, kontrollierte Aufzeichnung des Zustands eines Patienten führen. Die Forscher unterscheiden zwischen zwei sehr unterschiedlichen Arten des Informationsumgangs. Die erste ist der „generierte Kontext“, bei dem der Computer relevante Dokumente für eine einzelne Frage zusammenstellt und sie dann wieder vergisst, sobald die Antwort gegeben wurde. Die zweite ist der „kontrollierte Zustand“ (governed state), bei dem das System eine persistente, versionierte und prüfbare Aufzeichnung dessen führt, was es für wahr hält, wobei dieses nur durch strikte Regeln aktualisiert wird, die Beobachtetes von Inferenz (Schlussfolgerung) trennen.

Das Paper behauptet nicht, dass diese neuen Computermodelle schlecht im Lesen sind. Tatsächlich sind sie oft besser als Menschen darin, Muster in Texten zu finden. Das Problem ist, dass das Lesen der Akte nicht dasselbe ist wie das Wissen um den Patienten. Die Forscher zeigen, dass aktuelle Systeme oft eine schriftliche Notiz mit einer medizinischen Tatsache oder ein fehlendes Dokument mit einem fehlenden Zustand verwechseln. Wenn ein Patient beispielsweise vor zehn Jahren ein Nierenproblem hatte, aber im letzten Jahr keine Tests durchgeführt wurden, könnte ein Standard-System selbstbewusst behaupten, dass die Nieren des Patienten in Ordnung seien, weil die jüngste Notiz von nichts Schlechtem spricht. Ein System mit einem kontrollierten Zustand würde jedoch erkennen, dass die letzte Messung alt ist und der aktuelle Status unbekannt ist. Es würde explizit die Lücke in der Information markieren, anstatt sie mit einer selbstbewussten Vermutung zu füllen. Diese Unterscheidung ist entscheidend, denn in der Medizin kann der Unterschied zwischen „wir wissen, dass dies wahr ist“ und „wir haben keine Beweise für das Gegenteil gesehen“ darüber entscheiden, ob eine Behandlung sicher oder gefährlich ist.

Um dies zu lösen, zerlegen die Autoren den unordentlichen Prozess des medizinischen Denkens in fünf verschiedene Objekte, die niemals vermischt werden dürfen. Erstens gibt es den wahren Zustand des Patienten, welcher der tatsächliche physische Zustand seines Körpers ist; kein System kann diesen jemals direkt besitzen, sondern nur schätzen. Zweitens gibt es die Beobachtungen, welche die spezifischen Messungen oder Notizen des Pflegeteams sind. Drittens gibt es die Evidenz (Beweise), welche die vom System aufgenommene Rohdaten sind, inklusive eines Datensatzes darüber, wann sie geschrieben, wann sie empfangen und von wem sie verfasst wurden. Viertens gibt es die Überzeugung (Belief), welche die derzeit beste Vermutung des Systems über den Zustand des Patienten auf Basis aller bisher gesehenen Evidenzen ist. Fünftens gibt es die Simulation, welches ein hypothetisches Szenario ist, das verwendet wird, um „Was-wäre-wenn“-Fragen zu testen, wie etwa: Was würde passieren, wenn der Patient ein anderes Medikament einnimmt? Das Paper argumentiert, dass die meisten aktuellen KI-Systeme diese fünf separaten Dinge zu einem einzigen kollabieren lassen und die angesammelten Notizen so behandeln, als wären sie die aktuelle Wahrheit. Dies führt zu Fehlern, bei denen alte Informationen als neu behandelt werden oder eine Vermutung mit einer Tatsache verwechselt wird.

Die Forscher schlagen einen neuen Standard vor, wie diese Systeme gebaut werden sollten, organisiert in einem gestuften Framework, das misst, wie gut ein System den Zustand des Patienten kontrolliert. Auf der untersten Ebene speichert ein System vielleicht nur Text. Auf höheren Ebenen beginnt es, diesen Text in strukturierte Fakten mit klaren Quellen und Zeitstempeln zu organisieren. Die fortgeschrittenste Ebene erfordert, dass das System ein separates „Überzeugungs“-Objekt (Belief Object) pflegt, das deutlich von der Roh-Evidenz unterscheidbar ist. Dieses Überzeugungs-Objekt muss in der Lage sein, Unsicherheit zu zeigen, wie etwa zuzugeben, dass eine Messung fehlt oder dass zwei verschiedene Ärzte widersprüchliche Berichte abgegeben haben. Entscheidend ist, dass dieses System in der Lage sein muss, seine eigene Historie abzuspielen. Wenn ein Arzt fragt: „Was glaubtest du vor drei Monaten über den Herzzustand dieses Patienten?“, muss das System in der Lage sein, den exakten Zustand seines Wissens zu jenem Zeitpunkt zu rekonstruieren, basierend auf der Evidenz, die damals verfügbar war, nicht auf der Evidenz, die heute verfügbar ist. Diese Fähigkeit, zurückzublicken und zu sehen, wie sich das Verständnis des Systems im Laufe der Zeit verändert hat, ist das, was die Autoren als Rechenschaftspflicht (Accountability) bezeichnen.

Das Paper führt auch eine spezifische Methode zum Umgang mit fehlenden Informationen ein. In einem Standard-System, wenn eine Akte keine Allergie erwähnt, könnte das System annehmen, dass der Patient keine Allergien hat. In einem kontrollierten System wird das Fehlen von Informationen als ein spezifischer Typ von Datenpunkt behandelt. Das System lernt, zwischen „keine Allergien dokumentiert“ (die Frage wurde nie gestellt), „Patient berichtet keine Allergien“ (ein negatives Berichtsergebnis) und „Allergietest negativ“ (ein beobachtetes negatives Ergebnis) zu unterscheiden. Jede dieser Kategorien trägt ein anderes Maß an Gewissheit in sich und erfordert eine andere klinische Reaktion. Durch die korrekte Typisierung dieser Absenzen vermeidet das System die gefährliche Angewohnheit anzunehmen, dass Stille Sicherheit bedeutet. Die Autoren demonstrieren dies mit einem detaillierten Beispiel eines Patienten mit Nierenproblemen über sechs Jahre hinweg. Ein Standard-System, das nur auf die jüngste Notiz blickt, würde möglicherweise ein riskantes medizinisches Verfahren empfehlen. Ein kontrolliertes System, das den Zeitstrahl der Messungen und die Lücken zwischen ihnen verfolgt, würde korrekt identifizieren, dass die aktuelle Nierenfunktion unbekannt ist, und vor dem Fortfahren eine neue Untersuchung empfehlen.

Diese Arbeit wird als konzeptioneller Entwurf und nicht als fertiges Produkt präsentiert. Die Autoren stellen klar, dass sie noch nicht bewiesen haben, dass diese neue Architektur in einer realen Studie zu besseren Patientenergebnissen führt. Stattdessen haben sie die notwendigen Bedingungen definiert, damit ein solches System existieren kann, und eine Möglichkeit bereitgestellt, jedes zukünftige System zu prüfen, um zu sehen, ob es diese Bedingungen erfüllt. Sie argumentieren, dass der aktuelle Fokus darauf, Sprachmodelle intelligenter und schneller zu machen, am Ziel vorbeischießt. Die wahre Herausforderung liegt nicht in der Intelligenz des Lesers, sondern in der Governance des Zustands, den er liest. Sie legen nahe, dass für künstliche Intelligenz, die in einem Krankenhaus wirklich rechenschaftspflichtig sein soll, über das bloße Generieren von Text hinausgegangen werden muss, um ein persistentes, versioniertes und prüfbares Protokoll dessen zu führen, was es weiß und was es nicht weiß. Das Paper schließt mit dem Entwurf eines Forschungsprogramms zum Bau dieser Systeme, beginnend mit der grundlegenden Infrastruktur zur Verfolgung von Evidenz und fortschreitend zu einem vollständigen Modell davon, wie sich Patienten im Laufe der Zeit verändern. Das Ziel ist es, das vage Versprechen einer „verantwortungsbewussten KI“ in einen konkreten Satz von Engineering-Anforderungen zu verwandeln, die überprüft, getestet und vertraut werden können.