Exploring the Use of Generative AI in Postgraduate GP Training: A Qualitative Study of Resident Doctors’ Experiences and Perceptions

In der modernen Klinik ist der Tag eines Arztes eine ständige Verhandlung zwischen dem menschlichen Bedürfnis nach Verbindung und dem maschinenartigen Anspruch an den Papierkram. Patienten kommen mit komplexen Geschichten an, aber der Arzt muss gleichzeitig elektronische Krankenakten, Überweisungsschreiben und endlose administrative Checklisten bewältigen. In diese geschäftige Landschaft ist eine neue Art von digitalem Assistenten getreten: die generative künstliche Intelligenz. Im Gegensatz zu älteren Computerprogrammen, die lediglich Daten sortieren oder starren Regeln folgen, kann diese neuere Technologie originäre Texte erstellen, Informationen zusammenfassen und Dokumente entwerfen, indem sie aus riesigen Mengen menschlicher Texte lernt. Es ist ein Werkzeug, das verspricht, die repetitiven Aufgaben zu bewältigen, die oft die Patientenversorgung verdrängen, doch es wirft auch eine grundlegende Frage auf: Kann eine Maschine, die schreibt und schlussfolgert, in dem hochsensiblen Umfeld der Medizin vertraut werden, insbesondere wenn die Person, die sie nutzt, noch am Anfang ihrer Laufbahn steht?

Ein Forscherteam der Newcastle University und des North Tees and Hartlepool NHS Foundation Trust machte sich daran, diese Frage zu beantworten, indem es den Menschen an der vordersten Front zuhörte: den Assistenzärzten der Allgemeinmedizin. Dies sind Ärzte, die das Medizinstudium abgeschlossen haben, sich aber noch in ihren letzten Ausbildungsjahren befinden und als voll qualifizierte Kliniker arbeiten, während sie gleichzeitig die spezifischen Fähigkeiten der Familienmedizin erlernen. Sie nehmen einen einzigartigen Raum ein, indem sie die Belastung durch die Behandlung echter Patienten mit der Notwendigkeit in Einklang bringen, zu lernen und über ihr eigenes Wachstum zu reflektieren. Die Forscher versammelten neunzehn dieser Ärzte aus der Region Nordengland und führten fünf Gruppendiskussionen durch, um zu verstehen, wie sie diese neuen Werkzeuge tatsächlich in ihrem täglichen Arbeitsalltag nutzen, was sie als Vorteile sahen und welche Ängste sie nachts wach hielten.

Die Gespräche zeigten, dass die künstliche Intelligenz für diese Auszubildenden bereits zu einem praktischen Partner beim Management des enormen Volumens an Papierkram geworden war. Die häufigste Nutzung bestand darin, die administrative Schwerstarbeit zu bewältigen. Die Ärzte beschrieben, wie sie die Technologie nutzten, um Konsultationsnotizen zu entwerfen, das Gesprochene während eines Patientenbesuchs zu transkribieren und Überweisungsschreiben an Spezialisten zu schreiben. Ein Arzt merkte an, dass er zwar seine eigene Art der Dokumentation eines Besuchs habe, das Tool ihm jedoch helfe, diese Notizen zu verbessern, während ein anderer ein System beschrieb, das dem gesamten Gespräch lauschte und ein vollständiges Protokoll erstellte, sodass der Arzt lediglich das Ergebnis überprüfen musste. Jenseits der Klinikmauern half die Technologie bei der Bildungsseite ihrer Ausbildung, indem sie ihre professionellen Portfolios organisierte und ihnen half, ihre täglichen Erfahrungen auf die spezifischen Kompetenzen abzustimmen, die für die Qualifikation erforderlich sind. Es ging nicht darum, die Arbeit des Arztes zu ersetzen, sondern darum, die Teile des Jobs zu beschleunigen, die sich repetitiv anfühlten, um so Zeit für den Patienten zu gewinnen.

Doch der Nutzen des Werkzeugs reichte weit über das einfache Tippen hinaus. Die Ärzte beschrieben auch die Nutzung der Technologie als Denkpartner, um komplexe medizinische Rätsel zu lösen. Wenn sie mit einem Patienten konfrontiert waren, dessen Symptome ihnen unbekannt waren, baten sie das System, eine Liste möglicher Erkrankungen zu generieren oder einen spezifischen Behandlungspfad zu erklären. Dies bedeutete nicht, dass die Maschine die Diagnose stellte; vielmehr fungierte sie als kognitive Stütze, die ein breites Spektrum an Möglichkeiten bot, durch die der Arzt dann sein eigenes klinisches Urteilsvermögen filtern konnte. Sie half ihnen bei der Prüfungsvorbereitung, beim Erstellen von Übungsfragen und sogar beim Simulieren von Gesprächen, um ihre Kommunikationsfähigkeiten zu trainieren. Auf diese Weise diente die Technologie als persönlicher Tutor, der ihnen half, schneller zu lernen und schwierige Konzepte zu verstehen, indem er sie in klare, konversationelle Erklärungen zerlegte.

Dennoch kam diese Abhängigkeit von einem digitalen Assistenten mit einer großen Portion Vorsicht daher. Die Ärzte waren sich sehr wohl bewusst, dass die Technologie Fehler machen konnte, indem sie manchmal Dinge mit voller Überzeugung behauptete, die schlichtweg falsch waren. Sie teilten Geschichten darüber, dass das System einen Patientenbericht missverstand, wie etwa die Verwechslung eines menschlichen Trauerfalls mit dem Tod eines Haustiers – eine Art von Fehler, die schwerwiegende Folgen haben könnte, wenn sie nicht entdeckt wird. Dies führte zu einem festen Konsens: Der Arzt muss immer derjenige sein, der den Stift hält. Sie betonten, dass sie jedes Stück Information, das die Maschine produzierte, verifizieren mussten, indem sie es als Entwurf behandelten, der einer fachlichen Überprüfung bedarf, statt als endgültige Antwort. Es gab auch tiefe Bedenken hinsichtlich der Privatsphäre. Die Ärzte sorgten sich, dass die in diese Systeme eingegebenen Patientendaten möglicherweise nicht sicher seien und dadurch sensible Krankengeschichten an Dritte gelangen könnten. Sie betonten, dass die Nutzung des Werkzeugs ohne das Wissen oder die Zustimmung des Patienten ethisch falsch sei, und dass die Verantwortung für die Versorgung des Patienten stets beim menschlichen Arzt liegen müsse, niemals beim Algorithmus.

Die vielleicht auffälligste Erkenntnis war das Gefühl, auf diese neue Realität unvorbereitet zu sein. Obwohl die Ärzte sahen, dass künstliche Intelligenz ein fester Bestandteil ihrer zukünftigen Karriere werden würde, hatten sie das Gefühl, dass die Ausbildung, die sie erhielten, um damit umzugehen, inkonsistent oder oft gar nicht vorhanden war. Sie lernten durch Versuch und Irrtum und versuchten herauszufinden, welche Plattformen sicher sind und welche nicht, ohne klare Anleitung durch ihre Institutionen. Sie äußerten den starken Wunsch nach einer formellen, von Experten geleiteten Ausbildung, die ihnen nicht nur lehrt, wie man die Technologie nutzt, sondern wie man sie sicher anwendet, wie man ihre Fehler erkennt und wie man mit der sich ändernden Dynamik umgeht, wenn Patienten mit Informationen erscheinen, die sie durch ähnliche Werkzeuge gefunden haben. Die Ärzte erkannten, dass sich die Beziehung zwischen Arzt und Patient verschiebt, da Patienten manchmal mit festgefahrenen Vorstellungen kommen, die auf dem basieren, was ein Algorithmus ihnen gesagt hat, was die Konsultation erschwert.

Die Studie kommt zu dem Schluss, dass generative künstliche Intelligenz zwar eine leistungsstarke Möglichkeit bietet, die administrative Last zu reduzieren und das Lernen zukünftiger Ärzte zu unterstützen, sie jedoch kein Ersatz für menschliche Expertise ist. Die Technologie funktioniert am besten als Ergänzung – ein Werkzeug, das das Routinemäßige erledigt, damit der Arzt sich auf das Komplexe konzentrieren kann, aber sie erfordert eine wachsame menschliche Hand, die sie leitet. Die Forscher stellten fest, dass ohne klare, standardisierte Ausbildung und professionelle Richtlinien die Risiken einer Überabhängigkeit, von Datenschutzverletzungen und klinischen Fehlern zu hoch bleiben. Damit die nächste Generation von Ärzten in einer KI-gestützten Zukunft erfolgreich sein kann, benötigen sie mehr als nur Zugang zu den Werkzeugen; sie brauchen die Weisheit, zu wissen, wann sie ihnen vertrauen können und wann sie über sie hinwegsehen müssen.