Agentic AI in Healthcare & Medicine: A Seven-Dimensional Taxonomy for Empirical Evaluation of LLM-based Agents

Technisches Resümee: Agentic AI im Gesundheitswesen & in der Medizin: Eine siebendimensionale Taxonomie zur empirischen Evaluierung von LLM-basierten Agenten

Problemstellung
Das rasche Aufkommen von auf Large Language Models (LLM) basierenden Agenten im Gesundheitswesen und in der Medizin hat Kompetenzen in Aufgaben von der Analyse elektronischer Patientenakten (EHR) über die Differenzialdiagnose bis hin zur Behandlungsplanung demonstriert. Die bestehende Literatur lässt jedoch einen einheitlichen Rahmen für die Evaluierung dieser Systeme vermissen. Aktuelle Studien sind fragmentiert und bestehen entweder aus breiten Übersichtsarbeiten, denen es an Tiefe fehlt, oder aus engen Analysen spezifischer Fähigkeiten (z. B. Gedächtnis oder Schlussfolgerung), ohne einen gemeinsamen operativen Rahmen. Dieses Fehlen einer strukturierten Taxonomie behindert die Fähigkeit, Methoden zu vergleichen, die Verbreitung von Fähigkeiten zu bewerten und die Lücke zwischen Prototypen in der Frühphase und zuverlässigen klinischen Systemen zu identifizieren.

Methodik
Um diese Lücke zu schließen, führten die Autoren eine systematische Übersicht von 49 Forschungsarbeiten durch, die zwischen Oktober 2023 und Juni 2025 veröffentlicht wurden. Der Auswahlprozess folgte einem dreistufigen Filterprotokoll unter Verwendung von Ressourcen wie Google Scholar, PubMed, DBLP, Scopus und ArXiv, wobei PRISMA-konforme Richtlinien eingehalten wurden. Die Einschlusskriterien erforderten, dass das LLM der zentrale Controller der Planung und Entscheidungsfindung des Agenten war und dass die Studie explizit Aufgaben im Gesundheitswesen oder in der Medizin adressierte.

Die Autoren entwickelten eine neuartige siebendimensionale Taxonomie, die aus 29 operationalen Subdimensionen besteht, um die ausgewählten Studien zu evaluieren. Die Dimensionen sind:

1. Kognitive Fähigkeiten (Planung, Wahrnehmung, Aktion, Meta-Fähigkeiten, Konsistenz & Konfliktlösung)
2. Wissensmanagement (Integration externen Wissens, Gedächtnismodul, dynamische Aktualisierung & Vergessen)
3. Interaktionsmuster (Konversationsmodus, ereignisgesteuerte Aktivierung, Human-in-the-Loop, Fehlerreaktion)
4. Adaption & Lernen (Drift-Erkennung & -Minderung, reinforcement-basierte Adaption, Meta-Learning & Few-Shot)
5. Sicherheit & Ethik (Sicherheitsleitplanken & Adversarial Robustness, Bias & Fairness, datenschutzfreundliche Mechanismen, regulatorische & Compliance-Beschränkungen)
6. Framework-Typologie (Multi-Agenten-Design, zentralisierte Orchestrierung)
7. Kernaufgaben & Subaufgaben (Klinische Dokumentation, medizinische Beantwortung von Fragen, Triage, diagnostische Schlussfolgerung, Behandlungsplanung, Wirkstoffforschung, Patienteninteraktion, Benchmarking)

Jede Studie wurde anhand dieser Taxonomie mittels eines Labeling-Rubriks zugeordnet: Vollständig implementiert (✓), Teilweise implementiert (∆) oder Nicht implementiert (✗). Die Autoren wandten eine konservative Zuweisungsstrategie an, indem sie implizite Behauptungen standardmäßig als „Teilweise implementiert“ und Behauptungen ohne konkrete Prozedur oder Evaluierung als „Nicht implementiert“ einstuften.

Zentrale Beiträge

• Strukturierte Taxonomie: Der primäre Beitrag ist die Definition einer 7-dimensionalen, 29-subdimensionalen Taxonomie, die speziell für die empirische Evaluierung von LLM-basierten Agenten im Gesundheitswesen konzipiert wurde.
• Empirische Baseline: Die Arbeit liefert die erste groß angelegte quantitative Analyse der Prävalenz von Fähigkeiten und Koexistenzmustern über 44 Studien hinweg, womit sie über qualitative Übersichten hinausgeht.
• Visualisierung und Kartierung: Die Autoren stellen detaillierte Tabellen und Diagramme bereit, die spezifische Paper der Taxonomie zuordnen und somit als Navigationsindex für das Feld dienen.
• Identifizierung von Asymmetrien: Die Analyse zeigt deutliche Disparitäten zwischen gut entwickelten Fähigkeiten (z. B. Informationsabruf) und kritischen Lücken in den Bereichen Sicherheit, Adaption und aktionsorientierte Aufgaben auf.

Wesentliche Ergebnisse und Erkenntnisse
Die empirische Analyse deckt signifikante Asymmetrien im aktuellen Stand der Agentic AI im Gesundheitswesen auf:

• Kognitive Fähigkeiten: Es mangelt deutlich an robusten Mechanismen für die langfristige Aufgabenzerlegung (long-horizon task decomposition) und Selbstüberwachung. Planung fehlt in ~45 % der Studien, Meta-Fähigkeiten in ~53 % und Konsistenz & Konfliktlösung in ~61 %. Während Wahrnehmung und Aktion höhere Implementierungsraten zeigen, mangelt es ihnen oft an End-to-End-Zuverlässigkeit.
• Wissensmanagement: Die Integration externen Wissens ist weit verbreitet (76 % vollständig implementiert), oft via Retrieval-Augmented Generation (RAG). Jedoch ist Dynamische Aktualisierung & Vergessen weitgehend abwesend (98 % nicht implementiert), was darauf hindeutet, dass Agenten Schwierigkeiten haben, die Wissenshygiene aufrechtzuerhalten oder sich an evolvierende Leitlinien anzupassen.
• Interaktionsmuster: Während der Konversationsmodus relativ häufig vorkommt (43 % vollständig implementiert), ist die ereignisgesteuerte Aktivierung selten (92 % nicht implementiert), was auf eine starke Abhängigkeit von manuellem Prompting statt autonomer Überwachung externer Signale hindeutet. Human-in-the-Loop- und Fehlerreaktions-Mechanismen sind ebenfalls spärlich vorhanden.
• Adaption & Lernen: Diese Dimension weist die geringste Adoption auf. Drift-Erkennung & -Minderung ist praktisch nicht existent (0 % vollständig implementiert, ~98 % nicht implementiert). Reinforcement-basierte Adaption und Meta-Learning sind ähnlich unterentwickelt; die meisten Systeme verlassen sich auf statische Prompts.
• Sicherheit & Ethik: Die Reife der Implementierung ist begrenzt. Sicherheitsleitplanken und Bias & Fairness sind nur in 6 % bzw. ~10 % der Studien vollständig implementiert. Regulatorische & Compliance-Beschränkungen sind am schwächsten ausgebaut (86 % nicht implementiert), wobei nur wenige Studien eine verifizierbare Laufzeit-Compliance nachweisen.
• Framework-Typologie: Das Multi-Agenten-Design ist das dominante Muster (82 % vollständig implementiert), was den Trend zur rollenbasierten Spezialisierung widerspiegelt. Die zentralisierte Orchestrierung bleibt jedoch meist nur teilweise implementiert (57 %), was darauf hindeutet, dass die Agenten zwar modular sind, die kontrollierenden Schichten, die sie steuern, jedoch noch nicht voll belastbar sind.
• Kernaufgaben: Informationszentrierte Aufgaben wie die medizinische Beantwortung von Fragen (57 % vollständig implementiert) und Benchmarking (80 % vollständig implementiert) führen in der Reife. Im Gegensatz dazu hinken aktionsorientierte Aufgaben und die Wirkstoffforschung zurück; Behandlungsplanung & Verschreibung ist nur in ~20 % der Studien vollständig implementiert, die Wirkstoffforschung in ~18 %.

Bedeutung und Ansprüche
Die Arbeit behauptet, dass ihre Ergebnisse eine empirische Baseline liefern, die zeigt, dass aktuelle LLM-basierte Agenten im Gesundheitswesen exzellent in der abrufgestützten Beratung (retrieval-grounded advising) und Informationssynthese sind. Das Feld benötigt jedoch stärkere Adaption, Compliance-Plattformen und Sicherheitsmechanismen, um den Übergang von frühen Forschungs-Prototypen zu zuverlässigen klinischen Systemen zu vollziehen.

Die Autoren betonen, dass trotz erheblicher Fortschritte beim modularen Design und dem Informationsabruf kritische Lücken in den Bereichen Drift-Erkennung, dynamische Wissensaktualisierung, Fehlerreaktion und regulatorische Ausrichtung bestehen bleiben. Sie argumentieren, dass ohne die Adressierung dieser spezifischen Asymmetrien der Einsatz dieser Agenten in hochsensiblen klinischen Umgebungen riskant bleibt. Die Arbeit positioniert sich als grundlegendes Werkzeug, um die zukünftige Forschung in Richtung robuster, sicherer und ethisch verantwortungsvoller Agentenentwicklung zu leiten, wobei explizit darauf hingewiesen wird, dass Skalierbarkeit und Engineering im Produktionsmaßstab außerhalb ihres Fokus liegen.