Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

Jedes Jahr stehen nationale Gesundheitsbehörden vor einem Berg an Papierkram. Wenn ein Unternehmen ein neues Medikament verkaufen möchte, muss es ein massives Dossier einreichen, das tausende Seiten an Daten darüber enthält, wie das Arzneimittel hergestellt wurde, wie es im Körper wirkt und ob es sicher ist. In vielen Ländern, insbesondere in jenen mit begrenztem Personal, nimmt die Überprüfung dieser Dokumente viel Zeit in Anspruch, was den Zugang zu lebensrettenden Behandlungen verzögert. Um diesen Prozess zu beschleunigen, ohne Kompromisse einzugehen, haben Regulierungsbehörden eine Strategie namens „Reliance“ (Verlässlichkeit) eingeführt. Anstatt bei Null anzufangen, kann eine lokale Behörde die Arbeit nutzen, die bereits von einer vertrauenswürdigen Instanz in einem anderen Land geleistet wurde. Wenn diese vertrauenswürdige Instanz das Medikament bereits zugelassen hat, kann das lokale Team diese Bewertung als Grundlage verwenden. Dieser Prozess ist jedoch nach wie vor unglaublich schwierig. Das lokale Team muss immer noch die Originaldokumente durchlesen, prüfen, ob das Produkt exakt dasselbe ist, kleinste Unterschiede finden und einen neuen Bericht schreiben, der ihre Entscheidung erklärt. Dies erfordert das Navigieren durch komplexe Strukturen, das Aufspüren winziger Fehler, die im Text verborgen sind, und die Sicherstellung, dass jede Schlussfolgerung durch spezifische Belege gestützt wird. Wenn ein Fehler gemacht wird oder wenn die Argumentation nicht auf ein Quelldokument zurückverfolgt werden kann, könnte die gesamte Entscheidung angefochten werden, was die öffentliche Gesundheit gefährdet.

Forscher der University of the Western Cape in Südafrika haben dieses Problem angegangen, indem sie ein neues Arten von Computerwerkzeug entworfen haben – nicht, um menschliche Experten zu ersetzen, sondern um als hoch organisierter Assistent zu fungieren. Sie nennen dieses Werkzeug RAiA. Das Team hat nicht einfach ein Programm gebaut, das Texte zusammenfasst, denn eine Zusammenfassung könnte die winzigen Details übersehen, die in der Medizin entscheidend sind. Stattdessen verwendeten sie eine Methode namens Design Science Research, die sich darauf konzentriert, eine spezifische Lösung für ein reales Problem zu entwickeln und genau zu definend, wie sie funktionieren soll, bevor sie jemals an echten Daten getestet wird. Ihr Ziel war es, ein System zu schaffen, das die schwere Arbeit des Lesens und Organisierens der Dokumente bewältigen kann, während der menschliche Experte die endgültige Entscheidung fest in der Hand behält. Das Ergebnis ist ein Prototyp-System, das als Brücke zwischen dem chaotischen Stapel an Dokumenten und dem klaren, rechtfertigbaren Bericht fungiert, den ein Regulator schreiben muss.

Der Kern dieses Designs ist eine Reihe strenger Regeln, die das Verhalten des Computers steuern. Die Forscher erkannten, dass ein Werkzeug für einen Einsatz in einem hochsensiblen Umfeld wie der Medizin „governance-bound“ (an Governance gebunden) sein muss. Das bedeutet, dass das System mit Sicherheitsbarrieren ausgestattet ist, die verhindern, dass es eigene Entscheidungen trifft oder seine Arbeit verbirgt. Zum Beispiel ist das System so konzipiert, dass es ein Medikament nicht eigenständig genehmigen oder ablehnen kann; es kann lediglich potenzielle Probleme hervorheben und Verbindungen zwischen verschiedenen Teilen der Unterlagen vorschlagen. Jedes Mal, wenn der Computer eine Tatsache aufzeigt, muss er auch genau angeben, woher diese Tatsache stammt, und die Erkenntnis mit einem spezifischen Satz im Originaldokument verknüpfen. Dies stellt sicher, dass, wenn ein menschlicher Prüfer die Arbeit des Computers hinterfragt, er die Quelle sofort sehen und verifizieren kann. Das System führt zudem ein detailliertes Protokoll über jeden Schritt, das einen Pfad der Nachvollziehbarkeit schafft, der beweist, dass die Arbeit korrekt und sicher durchgeführt wurde.

Um dies umzusetzen, zerlegte das Team die massive Aufgabe der Überprüfung eines Medikamentendossiers in kleinere, handhabbare Teile. Sie entwarfen das System so, dass es verschiedene Arten von Informationen separat behandelt. Ein Teil des Systems betrachtet nur die chemischen und fertigungstechnischen Details, ein anderer konzentriert sich auf klinische Studienergebnisse und ein dritter prüft die Kennzeichnung und Gebrauchsanweisungen. Dies ist vergleichbar mit der Arbeit eines Teams von Spezialisten, bei dem eine Person den Motor eines Autos prüft, während eine andere die Bremsen kontrolliert, anstatt dass eine einzige Person versucht, alles gleichzeitig zu erledigen. Das System sammelt Informationen aus diesen verschiedenen Bereichen und führt sie zusammen, wobei es nach Widersprüchen oder fehlenden Teilen sucht. Wenn der Fertigungsbericht besagt, dass das Medikament in einer bestimmten Fabrik hergestellt wurde, der klinische Studienbericht jedoch impliziert, dass es in einer anderen Fabrik hergestellt wurde, markiert das System diese Diskrepanz zur Untersuchung durch den Menschen. Entscheidend ist, dass das System so programmiert ist, dass es konservativ agiert; es ist besser, ein potenzielles Problem zu melden, das sich später als harmlos herausstellt, als eine reale Gefahr zu übersehen.

Die Forscher achteten auch sehr genau darauf, wie der menschliche Experte mit der Maschine interagiert. Die Benutzeroite ist so gestaltet, dass der Mensch die Vorschläge des Computers leicht annehmen, bearbeiten oder ablehnen kann. Wenn der Computer einen Fehler macht, kann der Mensch ihn korrigieren, und das System zeichnet auf, warum die Korrektur vorgenommen wurde. Dieses Feedback wird nicht dazu verwendet, das „Gehirn“ des Computers sofort zu verändern, was zu unvorhersehbarem Verhalten führen könnte, sondern wird stattdert für eine spätere, sorgfältige Überprüfung durch das Team gespeichert. Diese Trennung stellt sicher, dass das Werkzeug stabil und zuverlässig bleibt. Das System schützt zudem sensible Informationen, wie etwa Geschäftsgeheimnisse oder private Daten, indem es diese verschlüsselt und sicherstellt, dass nur autorisierte Personen Zugriff darauf haben. Der Computer ist nicht berechtigt, diese privaten Daten zu nutzen, um von sich selbst zu lernen, was das Risiko verhindert, dass diese Informationen später durchsickern.

Das Team baute eine funktionierende Version dieses Systems, bekannt als Prototyp, um zu zeigen, wie der Prozess vom Anfang bis zum Ende ablaufen würde. Sie testeten es mit fiktiven Dokumenten, die wie echte Medikamentenanträge aussähen, verwendeten jedoch keine tatsächlichen vertraulichen Daten realer Unternehmen. Die Demonstration zeigte, dass das System eine große Datei entgegennehmen, sie in die korrekten Abschnitte sortieren, relevante Belege finden und einen Bericht entwerfen kann, den der menschliche Experte anschließend prüfen und abzeichnen kann. Der menschliche Experte blieb bei jedem Schritt die letzte Instanz und entschied darüber, was die Beweise bedeuteten und ob das Medikament sicher war. Der Prototyp bewies, dass das Design möglich ist und dass der Arbeitsablauf sinnvoll ist, aber die Forscher weisen vorsichtig darauf hin, dass dies noch kein fertiges Produkt für den realen Einsatz ist. Sie haben noch nicht gemessen, wie viel schneller es den Prozess macht oder wie genau es Fehler in echten Dokumenten findet.

Der Hauptbeitrag dieser Arbeit liegt nicht in einem neuen Typ von Computer-Algorithmus, sondern in einem Bauplan dafür, wie man vertrauenswürdige Werkzeuge für die Arzneimittelregulierung entwickelt. Die Forscher haben gezeigt, dass es möglich ist, ein System der Künstlichen Intelligenz zu entwerfen, das die Regeln der Governance respektiert, private Daten schützt und den Menschen in der Kontrolle hält. Sie haben zehn Leitprinzipien bereitgestellt, denen andere Entwickler folgen können, wenn sie ähnliche Werkzeuge bauen möchten. Diese Prinzipien betonen, dass das Werkzeug seine Erkenntnisse immer mit Belegen verknüpfen muss, niemals eine eigene Entscheidung treffen darf und so konzipiert sein muss, dass seine Arbeit auditiert und überprüft werden kann. Durch die Konzentration auf diese Regeln von Beginn an hat das Team ein Modell geschaffen, das Regulierungsbehörden in Afrika und weltweit helfen könnte, die wachsende Komplexität der Medikamentenzulassungen zu bewältigen, ohne die Sicherheit zu gefährden.

Diese Studie stellt einen bedeutenden Fortschritt im Denken darüber dar, wie Technologie menschliche Experten unterstützen kann. Sie bewegt sich weg von der Vorstellung, dass Künstliche Intelligenz das menschliche Urteilsvermögen ersetzen sollte, und konzentriert sich stattdessen darauf, wie sie das menschliche Urteilsvermögen informierter und effizienter machen kann. Die Forscher haben demonstriert, dass mit dem richtigen Design ein Computer die mühsame Arbeit des Sortierens und Prüfens von Dokumenten übernehmen kann, wodurch die menschlichen Experten frei werden, um sich auf die komplexen Denkprozesse und die endgültigen Entscheidungen zu konzentrieren, die die öffentliche Gesundheit schützen. Während das Werkzeug noch im Prototypenstadium ist und weiterer Tests bedarf, bietet das Design selbst einen klaren Weg für die Schaffung sicherer, zuverlässiger und rechenschaftspflichtiger Systeme für die Zukunft der Arzneimittelregulierung.