Generative artificial intelligence in medical postgraduates: a qualitative study of perceived risks, benefits, and responsible use

Stellen Sie sich die Welt der Medizin als eine riesige, antike Bibliothek vor, in der jedes Buch ein Geheimnis zur Heilung enthält. Seit Jahrhunderten mussten Ärzte und Studenten jede einzelne Seite von Hand lesen, um die richtige Antwort zu finden. Doch vor kurzem ist eine neue Art von magischem Assistenten eingetroffen: Generative Künstliche Intelligenz, oder GenAI. Stellen Sie sich dies als einen superschnellen, superschlauen Roboter-Bibliothekar vor, der Millionen von Büchern in einer Sekunde lesen, sie zusammenfassen und sogar eine Geschichte für Sie schreiben kann. Das klingt wie ein wahr gewordener Traum, nicht wahr? Aber hier ist der Haken: Dieser Roboter-Bibliothekar erfindet manchmal Dinge dazu, vergisst, seine Fakten zu überprüfen, und wenn Sie ihn die Geschichte für Sie schreiben lassen, könnten Sie vergessen, wie man selbst schreibt.

Dieses Papier taucht tief in eine ganz spezifische Gruppe von Menschen ein, die gerade erst damit beginnen, diesen magischen Roboter zu nutzen: medizinische Graduiertenstudenten in China. Dies sind die jungen Ärzte in Ausbildung, die lernen, Experten zu werden. Die Forscher wollten wissen: Lieben diese Studenten den Roboter? Haben sie Angst vor ihm? Und vor allem: Wie entscheiden sie, wann sie den Roboter helfen lassen und wann sie die Arbeit selbst erledigen? Sie haben nicht nur nach einer „Ja“- oder „Nein“-Antwort gesucht; sie haben sich hingesetzt und tiefe Gespräche geführt, um die wahren Gedanken, Ängste und Hoffnungen dieser Studenten über diese neue Technologie zu verstehen.

Die Studie: Den zukünftigen Ärzten zuhören

Die Forscher interviewten 18 Masterstudenten im ersten Jahr aus fünf verschiedenen medizinischen Fachrichtungen, wie etwa Neurologie (Gehirnärzte), Psychiatrie (Geistesärzte) und Radiologie (Bildärzte). Alle diese Studenten hatten bereits versucht, KI-Tools wie ChatGPT oder DeepSeek für ihre Studienarbeit zu nutzen. Das Team hörte aufmerksam zu, was sie sagten, und suchte nach Mustern in ihren Erzählungen. Sie fanden heraus, dass die Studenten eine sehr klare, ausgewogene Sichtweise haben: Sie sehen GenAI als ein „zweischneidiges Schwert“, was bedeutet, dass es eine scharfe Seite hat, mit der Probleme schnell durchtrennt werden können, aber auch eine gefährliche Seite, die verletzen kann, wenn man nicht vorsichtig ist.

Das Gute: Der Superkraft-Begleiter

Die Studenten waren begeistert davon, wie viel Zeit der Roboter ihnen spart. Sie beschrieben es als einen Turbolader für ihre Gehirne.

• Das Aufarbeiten beschleunigen: Ein Student sagte, die KI helfe ihnen dabei, „benötigte Literatur schnell zu lokalisieren“, während ein anderer anmerkte, sie könne „Review-Artikel schnell analysieren“. Es ist, als hätte man einen Freund, der die besten Bücher in der Bibliothek in Sekunden statt in Stunden findet.
• Das Unsichtbare sehen: Die Studenten waren erstaunt darüber, dass die KI winzige Details entdecken konnte, die Menschen entgehen. Ein Student erklärte, dass die KI für „kleine Stenosen [Verengungen], die mit bloßem Auge schwer zu sehen sind, direkt den Stenosegrad berechnen kann“. Ein anderer erwähnte, dass sie riesige Mengen an Proteindaten analysieren könne, um Krankheitsmarker zu finden. Es ist, als würde man den Studenten eine Röntgenbrille für Daten geben.
• Brainstorming-Partner: Die KI hilft ihnen auch dabei, Zusammenhänge zu erkennen, die sie zuvor nicht gesehen hatten. Ein Student sagte, sie könne „4.000 medizinische Artikel... in 10 Minuten analysieren“ und ihnen so helfen, schneller als allein neue Ideen zu entwickeln.

Das Beängstigende: Die schlechten Angewohnheiten des Roboters

Dennoch vertrauten die Studenten der KI nicht blind. Tatsächlich war ihre größte Sorge, dass sie faul werden könnten.

• Die Angst vor dem „Gehirn-Rost“: Dies war die häufigste Sorge, die von 16 der 18 Studenten geäußert wurde. Sie befürchteten, dass ihr eigenes Gehirn aufhören würde, hart zu arbeiten, wenn sie die KI das gesamte Denken lassen würden. Ein Student brachte es unverblümt auf den Punkt: „Die direkte Nutzung von KI führt zu einem Mangel an eigenem Denken.“ Ein anderer sorgte sich, dass „die langfristige Nutzung von KI zu geistiger Trägheit führen kann“. Sie verglichen es mit der Nutzung eines Taschenrechners, bis man vergisst, wie man einfache Mathematik betreibt.
• Das „Fake News“-Problem: Die Studenten vertrauten der KI nicht darauf, zu 100 % wahrheitsgetreu zu sein. Sie merkten an, dass die KI dazu neigt, „Dinge zu erfinden“ oder zu „halluzinieren“. Ein Student beschwerte sich, dass „die meisten von der KI gezeigten Literaturquellen gefälscht sind“. Es ist wie ein Bibliothekar, der einem selbstbewusst zu einem Buch zeigt, das eigentlich gar nicht existiert.
• Privatsphäre und Schuld: Sie machten sich auch Sorgen um Patientengeheimnisse. Wenn sie Patientendaten in die KI eingeben, fürchten sie, dass die Daten durchsickern könnten, was zu Diskriminierung oder Datenschutzverletzungen führen kann. Darüber hinaus waren sie verwirrt darüber, wer die Verantwortung trägt, wenn die KI eine falsche Antwort gibt. Wie ein Student sagte: „Die KI kann keine Verantwortung übernehmen – der Entwickler oder die Nutzerinstitution muss sie unterstützen.“ Wenn der Roboter-Arzt einen Fehler macht, wer kommt dann in Schwierigkeiten? Der Mensch? Die Maschine? Die Antwort darauf ist derzeit unklar.

Die Regeln: Wie man fair spielt

Trotz der Ängste wollten die Studenten den Roboter nicht verbieten. Sie nutzten ein chinesisches Sprichwort, um ihren Standpunkt zu erklären: „Wir sollten nicht aufhören zu essen, aus Angst zu ersticken.“ Stattdessen zogen sie eine sehr klare Linie im Sand darüber, was erlaubt ist und was nicht.

• Grünes Licht (Erlaubt zu nutzen): Sie sind froh, die KI zum Polieren ihres Englischen, zur Überprüfung ihres Computercodes oder zur Erstellung eines ersten Entwurfs einer Arbeit zu verwenden. Sie sehen dies als die Nutzung eines Werkzeugs, um schneller zu arbeiten.
• Rotes Licht (Niemals nutzen): Sie sind sich einig, dass die KI niemals eine Diagnose eines Patienten erstellen, private Patientendaten handhaben oder die ursprüngliche Idee für eine Forschungsstudie entwickeln darf. Ein Student erklärte: „Ich werde die KI nutzen, um einen ersten Entwurf zu generieren, aber ich werde ihn definitiv manuell überarbeiten und überprüfen.“ Sie wollen die Kapitäne des Schiffes sein, mit der KI als Navigator, nicht als Kapitän.

Was sie wollen: Der perfekte KI-Assistent

Schließlich sagten die Studenten den Forschern genau, was sie benötigen würden, um sich bei der Nutzung dieser Tools sicher zu fühlen. Sie wollen keine „magische Black Box“, die Antworten ohne Erklärung liefert. Stattdessen wollen sie eine KI, die:

1. Die Regeln kennt: Sie muss ihre Antworten auf echte, hochwertige medizinische Belege und Leitlinien stützen, nicht nur auf zufällige Vermutungen.
2. Geheimnisse schützt: Sie muss so sicher wie ein Banktresor sein und strenge Datenschutzgesetze (wie HIPAA oder GDPR) befolgen, um Patientendaten zu schützen.
3. Ihre Arbeit erklärt: Sie sollte nicht nur eine Antwort geben, sondern auch erklären, warum sie diese Antwort gegeben hat, damit der Student die Logik dahinter verstehen kann.
4. Bescheiden bleibt: Sie muss sich klar als „Assistent“ des Arztes positionieren und niemals als Ersatz.

Das Fazit

Die Studie legt nahe, dass diese zukünftigen Ärzte nicht nur passive Nutzer der Technologie sind; sie denken kritisch darüber nach, wie sie sie einsetzen. Sie sehen die enormen Vorteile der KI für Effizienz und Entdeckung, sind aber zutiefst besorgt darüber, ihre eigene Fähigkeit zum kreativen und kritischen Denken zu verlieren. Sie verlangen nicht, den Roboter wegzuwerfen; sie verlangen einen Roboter, der ehrlich, sicher und klar als Helfer definiert ist, nicht als Chef. Ihre Stimmen deuten darauf hin, dass, damit KI in der Medizin wirklich helfen kann, wir Werkzeuge bauen müssen, die das menschliche Urteilsvermögen respektieren und den Menschen am Steuer lassen.