Do AI chatbots find what experts would? Effects of model, user role, and sample size on study retrieval for medical questions
Diese Studie bewertet drei LLM-Chatbots bei der Beantwortung medizinischer Fragen und stellt fest, dass die Retrieval-Leistung je nach Modell und Benutzerrolle signifikant variiert, wobei ChatGPT die anderen übertrifft und alle Modelle eine Tendenz dazu zeigen, größere klinische Studien zu zitieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen das beste Rezept für ein bestimmtes Gericht zu finden, aber anstatt einen Koch zu fragen, fragen Sie einen superintelligenten Roboter, der fast jedes jemals geschriebene Kochbuch gelesen hat. Dieser Roboter ist ein „Large Language Model“ (LLM), eine Art von KI-Chatbot, der chatten, schreiben und Fragen beantworten kann, indem er das nächste Wort in einem Satz vorhersagt. In der Welt der Medizin werden diese Bots immer beliebter, weil sie komplexe Gesundheitsthemen schnell zusammenfassen und Sie auf die Studien hinweisen können, die ihre Ratschläge stützen. Aber hier ist der Haken: Manchmal erfinden diese Roboter Dinge oder „halluzinieren“, indem sie Studien zitieren, die gar nicht existieren. Noch schlimmer ist, dass sie vielleicht die wichtigsten Studien überhaupt übersehen. Diese Arbeit stellt eine einfache, aber entscheidende Frage: Wenn ein menschlicher Experte (wie ein medizinischer Forscher) bereits die harte Arbeit geleistet hat, die perfekte Liste von Studien für eine bestimmte medizinische Frage zu finden, wie gut können diese KI-Roboter dieselbe Liste finden? Agieren sie wie ein neugieriger Patient, ein beschäftigter Arzt oder ein ernsthafter Forscher? Und spielt die Größe der Studie für den Roboter eine Rolle?
Die Autoren dieser Studie beschlossen, drei der neuesten, leistungsfähigsten KI-Chatbots auf die Probe zu stellen. Sie behandelten die Chatbots wie Studenten, die eine sehr spezifische Prüfung ablegen. Die „Prüfungsfragen“ waren 20 reale medizinische Themen aus der Cochrane Database of Systematic Reviews von 2026, was wie die Goldstandard-Bibliothek ist, in der Expertenteams bereits die beste Evidenz für spezifische Gesundheitsprobleme gesammelt und geprüft haben. Für jeden dieser 20 Themen baten die Forscher die Chatbots, die ursprünglichen Forschungsstudien (die „Primärquellen“) zu finden, die die Antworten stützen. Um zu sehen, ob die „Persönlichkeit“ des Roboters eine Rolle spielt, stellten sie dieselben Fragen auf drei verschiedene Arten: einmal so, als ob ein Patient fragte, einmal so, als ob ein Kliniker (Arzt) fragte, und einmal so, als ob ein Evidenzsynthese-Forscher (ein Wissenschaftler, der darauf spezialisiert ist, Daten zu finden) fragte. Sie führten dieses gesamte Experiment vier Mal für jede Kombination durch, um sicherzustellen, dass die Ergebnisse kein Zufall waren, was zu insgesamt 720 analysierten Antworten führte.
Die Ergebnisse waren eine Mischung aus „nicht schlecht“ und „überraschend voreingenommen“. Im Durchschnitt fand eine einzelne Chatbot-Antwort etwa 39,2 % der Studien, die die menschlichen Experten bereits als die „korrekte“ Liste identifiziert hatten. Das bedeutet, wenn die Experten 10 perfekte Studien fanden, fand der Roboter normalerweise nur etwa 4 davon. Der Typ des Roboters spielte jedoch eine große Rolle. ChatGPT war der klare Gewinner und fand 63,1 % der Expertenstudien. Claude lag in der Mitte mit 37,0 %, und Gemini hatte mit 17,3 % am meisten zu kämpfen. Interessanterweise spielte die „Persönlichkeit“ des Nutzers eine kleine Rolle: Wenn der Prompt aus der Perspektive eines Forschers geschrieben war, fanden die Bots mehr Studien (42,8 %) als wenn er aus der Perspektive eines Patienten (36,1 %) oder eines Klinikers (38,6 %) verfasst war.
Aber die faszinierendste Entdeckung betraf die Frage, welche Studien die Bots auswählten. Die Forscher untersuchten die Merkmale der Studien, die die Bots erfolgreich abriefen, im Vergleich zu denen, die sie übersehen hatten. Sie fanden heraus, dass die Bots eine massive Präferenz für Studien mit größeren Stichprobenumfängen (das heißt, Studien, die die Behandlung an mehr Menschen testeten) hatten. Selbst als sie kontrollierten, wie neu die Studie war, wie oft sie von anderen zitiert wurde oder ob sie kostenlos lesbar war, war die Größe der Studie das einzige Merkenteil, das zuverlässig vorhersagte, ob der Bot sie finden würde. Pro Einheit der Zunahme des Logarithmus der Stichprobengröße stieg die Chance, dass der Bot die Studie findet, um das 1,80-fache. Es ist, als hätten die Chatbots eine eingebaute Voreingenommenheit, die denkt: „Wenn eine Studie eine riesige Menge an Teilnehmern hat, muss sie die wichtigste sein“, und dabei kleinere, aber ebenso valide Studien ignoriert.
Die Studie überprüfte auch, ob die Bots gefälschte Studien erfanden oder Details falsch wiedergaben. Sie erfanden nicht viele gefälschte Studien (ein gutes Zeichen dank ihrer fortgeschrittenen Denkfähigkeiten), aber sie machten etwa 3 % der Zeit „Metadatenfehler“. Das bedeutet, sie könnten eine echte Studie zitieren, aber den Namen des Autors, das Jahr oder den Zeitschriftentitel falsch angeben. Claude machte diese Fehler am häufigsten (5,9 % der Zeit), während Gemini am genauesten war (0,2 %).
Am Ende legt das Paper nahe, dass diese KI-Chatbots zwar immer besser darin werden, medizinische Belege zu finden, aber noch kein perfekter Ersatz für menschliche Experten sind. Sie sind unvollständig, sie ändern ihre Antworten, je nachdem, wen man vorgibt zu sein, und sie haben eine starke Tendenz zu großen, berühmten Studien. Wenn Sie einen Chatbot nutzen, um medizinische Forschung zu finden, erhalten Sie vielleicht eine Liste der „großen Hits“, aber Sie könnten leicht die kleineren, leiseren Studien übersehen, von denen Experten wissen, dass sie genauso wichtig sind. Die Autoren kommen zu dem Schluss, dass diese Werkzeuge als hilfreiche Assistenten gesehen werden sollten, die einen in die richtige Richtung weisen können, aber nicht als die endgültige Autorität darüber, was die medizinische Evidenz tatsächlich aussagt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.