A Hybrid Knowledge-Grounded Framework for Safety and Traceability in Prescription Verification

Die Arbeit stellt PharmGraph-Auditor vor, ein hybrides System, das eine vertrauenswürdige pharmazeutische Wissensbasis und eine evidenzbasierte Verifikationskette nutzt, um die Sicherheit und Nachvollziehbarkeit bei der Arzneimittelverifikation durch Apotheker zu gewährleisten und dabei die Grenzen von reinen Sprachmodellen zu überwinden.

Das Wesentliche

Stellen Sie sich vor, ein Apotheker ist wie ein hochspezialierter Sicherheitschef an der Grenze eines Landes. Seine Aufgabe ist es, jeden einzelnen Reisenden (das Medikament) zu prüfen, bevor er ins Land (den Körper des Patienten) darf. Er muss sicherstellen, dass der Reisende nicht illegal ist, nicht mit anderen Reisenden streitet und dass die Menge, die er mitbringt, sicher ist.

In der heutigen Welt ist die Menge an Informationen riesig: neue Medikamente, komplizierte Patientengeschichten und ständig wechselnde Regeln. Ein menschlicher Sicherheitschef kann das nicht mehr allein schaffen; er wird überfordert, macht Fehler oder übersieht Details, weil er zu müde ist.

Hier kommt PharmGraph-Auditor ins Spiel. Es ist kein gewöhnlicher Computer, sondern ein intelligenter, hybrider Assistent, der dem Apotheker hilft, ohne die Kontrolle zu übernehmen.

Hier ist die Erklärung, wie das System funktioniert, mit einfachen Bildern:

1. Das Problem: Warum KI allein nicht reicht

Stellen Sie sich eine moderne KI (wie einen Chatbot) als einen sehr klugen, aber etwas verträumten Bibliothekar vor. Dieser Bibliothekar hat alle Bücher der Welt gelesen und kann tolle Geschichten erzählen. Aber wenn Sie ihn fragen: "Ist diese Dosis für einen 80-jährigen mit Nierenproblemen sicher?", könnte er eine plausible, aber falsche Antwort erfinden, nur weil er den Kontext nicht genau genug prüft. Er "halluziniert" Fakten. In der Medizin ist das jedoch lebensgefährlich. Man braucht keine Geschichten, man braucht beweisbare Fakten.

2. Die Lösung: Ein zweiköpfiges Gehirn (Hybrid-Wissensbasis)

Das Herzstück von PharmGraph-Auditor ist eine spezielle Datenbank, die wir uns wie ein zweiköpfiges Gehirn vorstellen können, das perfekt zusammenarbeitet:

• Kopf A (Der Mathematiker): Dieser Teil ist wie ein strenger Buchhalter. Er kümmert sich um harte Zahlen: "Darf der Patient nur 500 mg nehmen?", "Ist die Nierenfunktion unter 30?". Er arbeitet mit Tabellen und prüft exakte Grenzen. Er ist extrem schnell bei Zahlen, aber schlecht darin, Zusammenhänge zu verstehen.
• Kopf B (Der Detektiv): Dieser Teil ist wie ein Spürhund in einem Labyrinth. Er kennt die Verbindungen zwischen Dingen: "Wenn Patient A gegen Penicillin allergisch ist, darf er kein Medikament X bekommen, weil X ein Verwandter von Penicillin ist." Er kann durch komplexe Netzwerke von Informationen "springen" (von Medikament zu Inhaltsstoff zu Allergie).

Diese beiden Köpfe sind durch eine Brücke verbunden. Wenn der Apotheker eine Frage stellt, weiß das System genau, welcher Kopf die Antwort liefern muss. Das ist der "Hybrid"-Teil: Die Stärke von Zahlen (Buchhalter) und die Stärke von Zusammenhängen (Detektiv) vereint.

3. Der Bauplan: Wie das Gehirn lernt (ISR)

Bevor das System arbeiten kann, muss es lernen. Die Entwickler haben keinen starren Plan vorgegeben, sondern eine iterative Methode entwickelt.
Stellen Sie sich vor, ein Architekt (der Mensch) und ein Assistent (die KI) bauen gemeinsam ein Haus.

1. Der Assistent schaut sich die Baupläne (medizinische Texte) an und sagt: "Hier fehlt ein Raum für 'Nierenanpassung'."
2. Der Architekt sagt: "Gute Idee, aber lass uns das nicht als separaten Raum bauen, sondern als allgemeinen 'Anpassungs-Raum', der für Nieren, Leber und Alter funktioniert."
3. So wächst das System Schritt für Schritt und wird immer besser, bis es alle medizinischen Nuancen abdeckt, ohne chaotisch zu werden.

4. Der Arbeitsprozess: Die "Verifikations-Kette" (CoV)

Wenn eine neue Verschreibung hereinkommt, passiert nicht einfach, dass die KI eine Antwort "herausspuckt". Stattdessen läuft ein sicherer, transparenter Prozess ab, wie eine Fließbandarbeit in einer Fabrik:

1. Der Planer (Zerlegung): Die KI schaut sich die Verschreibung an und zerlegt sie in kleine, überprüfbare Aufgaben. "Prüfe Dosis", "Prüfe Allergien", "Prüfe Wechselwirkungen".
2. Der Programmierer (Abfrage): Anstatt zu raten, generiert das System exakte Fragen für die Datenbank. "Hole alle Regeln für Nierenpatienten" (für den Buchhalter) oder "Finde alle Verbindungen zwischen Medikament A und B" (für den Detektiv).
3. Der Filter (P-EST): Hier kommt ein cleverer Trick ins Spiel. Die Datenbank liefert vielleicht 50 Regeln. Der Filter schaut sich den Patienten an (z.B. "59 Jahre, keine Nierenprobleme") und schneidet alle irrelevanten Regeln weg. Es bleibt nur eine einzige, perfekt passende Regel übrig. Das verhindert, dass die KI von zu vielen Informationen verwirrt wird.
4. Der Analyst (Zusammenfassung): Erst jetzt, mit den gefilterten, harten Fakten, fasst die KI die Ergebnisse zusammen. Wenn eine wichtige Information fehlt (z.B. "Wir wissen nicht, wie die Nierenfunktion ist"), sagt das System nicht "Alles gut", sondern warnt: "Hier fehlt eine Information! Bitte prüfen."

5. Das Ergebnis: Warum das besser ist

In Tests hat sich gezeigt, dass dieses System besser ist als ein erfahrener Apotheker allein (weil es nichts vergisst) und besser als alte Computerprogramme (weil es Zusammenhänge versteht, nicht nur starre Regeln).

• Alte Computer: Melden zu viele Fehler (auch falsche), was den Apotheker nervös macht ("Alarm-Müdigkeit").
• Mensch allein: Übersehen viele versteckte Fehler, weil er müde ist.
• PharmGraph-Auditor: Findet fast alle echten Fehler, meldet aber kaum falsche Alarme.

Fazit

PharmGraph-Auditor ist wie ein unermüdlicher, extrem präziser Co-Pilot für Apotheker. Er nimmt die schwere Last des Daten-Dschungels ab, prüft jede Regel gegen die harten Fakten und stellt sicher, dass am Ende nur das sicherste Medikament den Weg zum Patienten findet. Er macht die KI nicht zum "Künstler", der erfindet, sondern zum "Handwerker", der nach dem Bauplan arbeitet.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „A Hybrid Knowledge-Grounded Framework for Safety and Traceability in Prescription Verification" auf Deutsch:

1. Problemstellung

Medikationsfehler stellen eine erhebliche Gefahr für die Patientensicherheit dar. Die letzte Verteidigungslinie ist die Prüfung durch Apotheker (Pharmacist Verification, PV). Diese manuelle Prüfung ist jedoch zunehmend überlastet durch die Komplexität moderner pharmazeutischer Daten.
Der direkte Einsatz von Large Language Models (LLMs) in diesem „Null-Toleranz"-Bereich ist aus drei Hauptgründen untragbar:

• Faktische Unzuverlässigkeit: LLMs neigen zu „Halluzinationen" (Erfinden plausibler, aber falscher Informationen).
• Fehlende Nachvollziehbarkeit: Das Wissen ist in den Modellparametern „verschlüsselt", was eine Rückverfolgung von Schlussfolgerungen zu Quelldokumenten unmöglich macht.
• Schwäche im komplexen Schlussfolgern: Die Prüfung erfordert mehrstufiges Reasoning (z. B. Kombination von Nierenfunktion, Dosisrichtlinien und Wechselwirkungen), das LLMs ohne faktisches Gerüst oft nicht zuverlässig leisten.

2. Methodik: PharmGraph-Auditor

Das Paper stellt PharmGraph-Auditor vor, ein System, das auf einem hybriden pharmazeutischen Wissensspeicher (HPKB) und einem neuen Reasoning-Paradigma basiert.

A. Theoretisches Fundament: Hybrid VKG-Modell

Das System nutzt das Paradigma des Virtual Knowledge Graph (VKG). Anstatt alle Daten in ein einziges Format zu zwingen, wird ein hybrides Modell verwendet, das zwei Komponenten vereint:

1. Relationale Komponente (R): Dient als „Constraint Store". Sie speichert atomare, numerische Fakten (z. B. Dosierungsschwellenwerte, Altersgrenzen). Relationale Datenbanken sind hier optimal, da sie für Mengenbeschränkungen (Set Constraint Satisfaction) und Bereichsabfragen ($O(\log N)$) effizient sind.
2. Graph-Komponente (G): Dient als „Topology Store". Sie erfasst semantische Beziehungen (z. B. Wechselwirkungen, Allergien, Hierarchien). Graph-Datenbanken ermöglichen hier effizientes mehrstufiges Traversieren ($O(1)$ pro Hop) durch indexfreie Adjazenz.
3. Mapping-Funktion ($\phi$): Stellt eine bijektive Verbindung zwischen Graph-Knoten und relationalen Tupeln her, sodass das System als einheitliche Einheit fungiert.

B. Konstruktion des Wissensspeichers (HPKB)

Um den HPKB aus unstrukturierten medizinischen Texten zu erstellen, wird ein zweiphasiger Ansatz vorgeschlagen:

• Iterative Schema-Verfeinerung (ISR): Ein Algorithmus, der in einem „Propose-Verify-Solidify"-Zyklus mit menschlichen Experten und LLMs arbeitet. LLMs identifizieren „Schema-Lücken" (neue Fakten), während Experten diese abstrahieren und in das hybride Schema integrieren (z. B. Unterscheidung zwischen Constraints und Topologie). Dies führt zu einem stabilen, domänenspezifischen Schema.
• Section-Aware Multi-Agent Framework: Nach der Schema-Festlegung werden Dokumente (PDFs) in semantische Blöcke (z. B. „Dosierung", „Kontraindikationen") unterteilt. Spezialisierte Agenten extrahieren dann spezifisch Daten für die relationale oder graph-basierte Komponente und fügen dabei zwingend Provenance-Metadaten (Quelltext) hinzu, um die Nachvollziehbarkeit zu gewährleisten.

C. KB-grounded Chain of Verification (CoV)

Für die eigentliche Prüfung wird das LLM nicht als direkter Generator, sondern als transparenter Reasoning-Engine eingesetzt. Der Prozess läuft in vier Stufen ab:

1. Task-Zerlegung: Ein LLM-Agent zerlegt die Prüfungsaufgabe in verifizierbare Teilaufgaben (z. B. „Dosierungsprüfung", „Wechselwirkungscheck").
2. Hybride Query-Generierung: Ein deterministischer, regelbasierter Engine generiert die Abfragen. Für Constraints werden SQL-Abfragen (für R) und für Topologie-Reasoning Cypher-Abfragen (für G) erstellt. Dies eliminiert Syntaxfehler und Halluzinationen bei der Abfrageerstellung.
3. Evidence Retrieval & Curation (P-EST): Die Patient Profile-driven Evidence Selection Tree (P-EST) filtert die rohen Suchergebnisse. Sie sucht nach exakten Übereinstimmungen mit dem Patientenprofil und nutzt hierarchische Fallbacks, um irrelevante Regeln auszuschließen. Das LLM erhält nur den relevantesten Beweis.
4. Synthese & Bericht: Ein Synthese-Agent erstellt den Audit-Bericht. Falls Patientendaten fehlen (z. B. Nierenwerte), wird dies explizit als Information Gap markiert, anstatt eine falsche Entscheidung zu treffen.

3. Wichtige Beiträge

• Hybride Wissensarchitektur: Erste Anwendung des VKG-Paradigmas im pharmazeutischen Kontext, das die Stärken von relationalen Datenbanken (Präzision bei Zahlen) und Graph-Datenbanken (Flexibilität bei Beziehungen) kombiniert.
• ISR-Algorithmus: Ein Framework zur co-evolutiven Entwicklung von Schemata aus Texten, das die Heterogenität medizinischer Daten bewältigt.
• Chain of Verification (CoV): Ein neues Reasoning-Paradigma, das LLMs von „Black-Box"-Generatoren in transparente, evidenzbasierte Prüfsysteme verwandelt.
• Nachvollziehbarkeit: Durch die strikte Verknüpfung jedes Ergebnisses mit dem Quelltext und die explizite Kennzeichnung von Informationslücken.

4. Ergebnisse

Das System wurde an einem Datensatz realer stationärer Patientenrezepte evaluiert, die von klinischen Experten annotiert wurden.

• Wissenskonstruktion (RQ1): PharmGraph-Auditor übertraf State-of-the-Art-Baselines (Zero-shot OpenIE und One-shot Schema-guided) deutlich. Es erreichte einen F1-Score von 0,8374 (mit GPT-4o) und zeigte ein hervorragendes Gleichgewicht zwischen Recall (>0,84) und Präzision (>0,82).
• Prüfungsleistung (RQ2):
  • Gegenüber menschlichen Experten (nur Erfahrung): Das System erzielte eine höhere Recall-Rate (70,3% vs. 45,9%), während es die Präzision hoch hielt (74,3%). Es fand also signifikant mehr latente Risiken, ohne die Anzahl der Fehlalarme zu erhöhen.
  • Gegenüber traditionellen CDSS (regelbasiert): Das System übertraf die Recall-Rate (70,3% vs. 67,6%) und reduzierte die Fehlalarme drastisch (Präzision 74,3% vs. 52,1%), was „Alert Fatigue" bei Apothekern mindert.
  • Gesamtergebnis: Eine Verbesserung des F1-Scores um +13,4% gegenüber traditionellen CDSS.
• Ablationsstudie: Der Wegfall des CoV-Frameworks oder des externen Wissensspeichers führte zu einem massiven Einbruch der Leistung, was die Notwendigkeit beider Komponenten für klinische Zuverlässigkeit unterstreicht.

5. Bedeutung und Ausblick

PharmGraph-Auditor adressiert die kritische Lücke zwischen der Flexibilität von LLMs und den strengen Sicherheitsanforderungen der klinischen Praxis.

• Patientensicherheit: Durch die Reduzierung von Übersehen-Risiken (hoher Recall) und die Minimierung von Fehlalarmen (hohe Präzision) wird die Patientensicherheit erhöht.
• Vertrauenswürdige KI: Das System demonstriert, wie KI in kritischen Bereichen eingesetzt werden kann, indem sie transparent, nachvollziehbar und evidenzbasiert agiert.
• Anwendbarkeit: Die hybride Architektur ist nicht auf Pharmazie beschränkt, sondern kann auf andere komplexe Domänen übertragen werden, die sowohl strenge numerische Constraints als auch semantisches Reasoning erfordern.

Zukünftige Arbeiten zielen darauf ab, „Real-World Evidence" (RWE) und implizite klinische Routinen in den Wissensspeicher zu integrieren, um die Lücke zwischen starren Definitionen und flexiblen Krankenhausabläufen weiter zu schließen.