Systematic evidence mapping shows artificial intelligence dependence claims outnumber corresponding assessments in health professions education
Diese systematische Evidenzkartierung zeigt auf, dass in der Ausbildung von Gesundheitsberufen Behauptungen hinsichtlich einer Abhängigkeit von künstlicher Intelligenz die entsprechenden Bewertungen, die eine solche Abhängigkeit verifizieren könnten, signifikant übersteigen, wodurch die Häufigkeit, die kausalen Auswirkungen und die Folgen für Patienten einer KI-Abhängigkeit unbestimmt bleiben.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In den Klassenzimmern und Trainingszentren, in denen zukünftige Ärzte, Pflegekräfte und Apotheker ihr Handwerk erlernen, ist ein neues Werkzeug eingetroffen, das das Versprechen trägt, die Ausbildung zu transformieren. Dieses Werkzeug ist künstliche Intelligenz, eine Technologie, die in der Lage ist, riesige Mengen an Informationen abzurufen, fallbasierte Übungen anzubieten und sofortiges Feedback zu komplexen Entscheidungen zu geben. Für Lernende kann diese Unterstützung schwierige Aufgaben einfacher und schneller erscheinen lassen. Es hat sich jedoch eine grundlegende Frage ergeben, die über bloße Bequemlichkeit hinausgeht: Wenn ein Student diesen digitalen Assistenten nutzt, um ein Problem zu lösen, lernt er dann tatsächlich, wie er es selbst lösen kann? Die Sorge besteht nicht darin, dass das Werkzeug versagt, sondern dass der Lernende sich so sehr an die Unterstützung gewöhnen könnte, dass seine eigene unabhängige Fähigkeit verblasst. Dies ist der Kern der „Abhängigkeitsfrage“. Sie fragt, ob die Fähigkeiten und das Denken, die ein Student während der Nutzung von KI zeigt, wirklich seine eigenen sind oder ob sie lediglich das Ergebnis einer Partnerschaft sind, die in dem Moment zusammenbricht, in dem die Maschine ausgeschaltet wird. Das Verständnis dieser Unterscheidung ist für die Patientensicherheit entscheidend, da eine medizinische Fachkraft in der Lage sein muss, Informationen zu verifizieren und fundierte Urteile zu fällen, selbst wenn die Technologie nicht verfügbar ist oder – schlimmer noch – falsche Ratschläge gibt.
Um dies zu untersuchen, führte ein Forscherteam der Sichuan University eine systematische Suche in der bestehenden wissenschaftlichen Literatur durch, um zu sehen, welche Belege tatsächlich zu diesem Thema existieren. Sie fragten nicht einfach, ob KI den Studenten beim Lernen hilft; sie suchten gezielt nach Studien, die behaupteten, dass KI eine Abhängigkeit verursachen könnte, und prüften dann, ob dieselben Studien diese Abhängigkeit auch tatsächlich gemessen hatten. Die Forscher konzentrierten sich auf sechs spezifische Arten, wie sich Abhängigkeit äußern könnte: Überverlassenschaft auf die Maschine, die Auslagerung geistiger Arbeit an sie, das übermäßige Vertrauen in die Maschine selbst wenn sie falsch liegt, die Übergabe der Entscheidungsgewalt, eine Schwächung der Denkfähigkeiten und eine Verschlechterung der praktischen Fähigkeiten. Sie sammelten fast 14.000 Datensätze aus vier großen wissenschaftlichen Datenbanken und verengten ihren Fokus nach einem strengen Screening-Prozess zur Entfernung von Duplikaten und irrelevanten Papieren auf 150 hochwertige Berichte, die Teilnehmer aus dem Gesundheitswesen in der Ausbildung involvierten. Diese Berichte bildeten den Kern ihrer Analyse.
Die Forscher führten daraufhin einen sorgfältigen Abgleich durch. Sie untersuchten jeden der 150 Berichte daraufhin, ob die Autoren eine explizite Behauptung über eines der sechs Abhängigkeitsphänomene aufgestellt hatten. Wenn ein Bericht beispielsweise behauptete, dass Studenten eine Überverlassenschaft auf die KI entwickelten, prüften die Forscher, ob derselbe Bericht auch einen spezifischen Test enthielt, der darauf ausgelegt war, eben diese Überverlassenschaftchaft zu messen. Sie stellten eine eklatante Lücke zwischen dem, was behauptet wurde, und dem, was getestet wurde, fest. Von den 150 Berichten machten 82 mindestens eine explizite Behauptung über Abhängigkeit. Jedoch enthielten nur 13 dieser Berichte eine Bewertung, die die strengen Designkriterien erfüllte, die erforderlich waren, um genau dieses Phänomen tatsächlich zu testen. Noch aussagekräftiger war, dass nur neun Berichte es schafften, eine Behauptung mit einer angemessenen Bewertung desselben Phänomens in Einklang zu bringen. Das bedeutet, dass für die große Mehrheit der Studien, die die Risiken der KI-Abhängigkeit diskutieren, die Autoren nicht die spezifischen Beweise geliefert haben, die erforderlich sind, um zu beweisen, dass das Risiko tatsächlich eintritt.
Die Situation war besonders deutlich bei der Betrachtung spezifischer Arten der Abhängigkeit. Die Forscher fanden heraus, dass Behauptungen über „Überverlassenschaft“ in 75 Berichten auftauchten, aber nur fünf dieser Berichte ein Design verwendeten, das fähig war, diese zu testen. Behauptungen über eine „geschwächte Denkfähigkeit“ erschienen in 57 Berichten, doch nur zwei enthielten einen angemessenen Test. Bei der „Kompetenzverschlechterung“ behaupteten 18 Berichte, dass dies geschehe, aber keiner von ihnen brachte die Behauptung mit einem Studiendesign in Einklang, das tatsächlich in der Lage wäre, einen Rückgang der Fähigkeiten nach dem Entfernen der KI zu messen. Die wenigen Studien, die versuchten, diese Effekte zu messen, ließen oft ein entscheidendes Element vermissen: eine klare Bestätigung, dass die KI während des abschließenden Tests nicht verfügbar war. Oh ohne die Gewissheit, dass der Student allein arbeitete, ist es unmöglich zu sagen, ob seine Leistung unabhängig oder noch immer durch das Werkzeug beeinflusst war. Einige Studien untersuchten zwar die Leistung nach einer Verzögerung, aber in den meisten Fällen konnten die Forscher nicht verifizieren, ob die Studenten immer noch die KI nutzten oder ob die Testbedingungen den Lernenden tatsächlich von der Maschine isolierten.
Die Ergebnisse legen nahe, dass die wissenschaftliche Gemeinschaft zwar aktiv über die potenziellen Gefahren der KI-Abhängigkeit diskutiert, die Evidenzbasis jedoch noch nicht bereit ist, zu bestätigen, wie häufig diese Gefahren auftreten oder was ihre wahren Auswirkungen sind. Die Forscher stellten fest, dass einige Studien zeigten, dass Studenten mit anwesender KI insgesamt besser abschnitten, aber diese verbesserte Leistung maskierte oft eine andere Realität: Wenn die KI einen falschen Rat gab, sank die Fähigkeit der Studenten, den Fehler zu erkennen, signifikant. Dies verdeutlicht, dass der Erfolg eines Lernenden mit einem Werkzeug nicht dasselbe ist wie seine unabhängige Leistungsfähigkeit. Die Studie fand auch heraus, dass sehr wenig Forschung dazu durchgeführt wurde, wie diese Bildungsdynamiken reale Patienten beeinflussen, wobei nur eine Handvoll Berichte tatsächliche Patientendaten oder -ergebnisse beinhaltete. Die Autoren kamen zu dem Schluss, dass der aktuelle Forschungsstand nicht in der Lage ist, die Häufigkeit der KI-Abhängigkeit, ihre kausalen Effekte oder ihre Folgen für die Patientenversorgung abzuschätzen.
Dies bedeutet nicht, dass KI keinen Platz in der Gesundheitsausbildung hat, noch beweist es, dass Abhängigkeit unvermeidlich ist. Es bedeutet lediglich, dass die aktuelle wissenschaftliche Literatur noch nicht die spezifischen, hochwertigen Belege geliefert hat, die nötig sind, um die Frage zu beantworten. Die Forscher betonen, dass verschiedene Arten der Abhängigkeit unterschiedliche Arten von Beweisen erfordern. Um beispielsweise zu beweisen, dass ein Student die Fähigkeit verloren hat, ohne Hilfe zu denken, ist ein Test erforderlich, bei dem der Student nach einer Zeit der Nutzung des Werkzeugs alleine arbeitet, mit einer klaren Baseline zum Vergleich. Bis mehr Studien mit diesen spezifischen Anforderungen konzipiert werden, bleibt die Diskussion über die KI-Abhängigkeit weitgehend theoretisch. Der Weg nach vorn besteht darin, Studien aufzubauen, die die Leistung des Lernenden klar von der Leistung des Lernenden-plus-Werkzeug trennen können, um sicherzustellen, dass die menschliche Fachkraft auch dann voll einsatzfähig bleibt, wenn die digitale Unterstützung entzogen wird.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.