What Does It Take to Research with AI? A Rapid Review of Competencies to Train LLM-Literate Researchers

Stellen Sie sich die Welt der Wissenschaft als eine riesige, geschäftige Bibliothek vor, in der Forscher die Bibliothekare sind. Seit Jahrzehnten haben diese Bibliothekare eine strenge Regel: Sie müssen Bücher finden, sie sorgfältig lesen, die Fakten prüfen und ihre eigenen Berichte basierend auf dem schreiben, was sie gelernt haben. Doch vor kurne Zeit ist ein neuer, unglaublich schneller und gesprächiger Roboter-Assistent in die Bibliothek gekommen. Dieser Roboter, angetrieben durch etwas, das man ein „Large Language Model“ (oder LLM) nennt, kann Millionen von Büchern in einer Sekunde lesen, sie zusammenfassen, Entwürfe schreiben und sogar helfen, komplexe Rätsel zu lösen. Es ist, als hätte man einen superintelligenten Praktikanten, der niemals schläft.

Es gibt jedoch einen Haken. Dieser Roboter ist ein wenig ein Trickbetrüger. Manchmal erzählt er die Wahrheit, aber manchmal erfindet er voller Selbstvertrauen Fakten (ein Fehler, den Forscher als „Halluzinieren“ bezeichnen) oder kopiert Ideen, ohne die Urheber zu nennen. Aus diesem Grund ist die große Frage nicht nur: „Kann uns der Roboter helfen?“, sondern: „Welche Fähigkeiten benötigen die menschlichen Bibliothekare, um den Roboter im Zaum zu halten?“ Wenn die Bibliothekare nicht genug über die Bücher wissen, die sie organisieren, könnten sie den Roboter den ganzen Bericht schreiben lassen, was zu einer Bibliothek voller Lügen führt. Dieses Papier untersucht genau, welche Fähigkeiten Forscher benötigen, um diese KI-Roboter verantwortungsbewusst zu nutzen, ohne dabei ihren Verstand oder die Wahrheit zu verlieren.

Die große KI-Detektivjagd

Ein Team von Forschern beschloss, Detektiv zu spielen, um eine brennende Frage zu beantworten: Was braucht es eigentlich, um ein Forscher zu sein, der KI-Werkzeuge effektiv, kritisch und verantwortungsbewusst einsetzt? Sie sind nicht einfach nur geraten; sie gingen auf eine schnelle Review-Mission und scannten 194 Artikel, die zwischen 2022 und 2025 veröffentlicht wurden. Aus diesem Berg an Papierarbeit wählten sie sorgfältig 40 Artikel aus, die reale Beispiele dafür zeigten, wie Menschen KI in ihrer Forschung nutzen. Dann nutzten sie eine Mischung aus menschlichen Gehirnen und einem zweiten KI-Werkzeug, um diese Artikel zu durchsieben und nach den spezifischen „Superkräften“ oder Kompetenzen zu suchen, die erfolgreiche Forscher anscheinend besaßen.

Was sie fanden, war eine Liste von acht wesentlichen Fähigkeiten. Betrachten Sie diese nicht als Programmierkenntnisse, sondern als die mentalen Muskeln, die ein Forscher trainieren muss.

1. Das Expertenauge (Fachliche Expertise und Aufsicht)
Dies war die am häufigsten gefundene Fähigkeit, die in 123 Instanzen über die Studien hinweg auftauchte. Stellen Sie sich den KI-Roboter als einen sehr schnellen, sehr selbstbewussten Reiseführer vor, der ein bisschen über alles weiß, aber in nichts ein Experte ist. Wenn Sie das Gelände selbst nicht kennen, könnten Sie dem Reiseführer glauben, wenn er auf einen falschen Wasserfall zeigt und sagt: „Das ist das echte Ding!“ Das Papier legt nahe, dass Forscher die wahren Experten auf ihrem Gebiet sein müssen. Sie müssen das Thema so gut kennen, dass sie erkennen, wenn die KI lügt, Quellen erfindet oder eine oberflächliche Antwort gibt. Der Roboter kann die schwere Arbeit erledigen, aber der Mensch muss derjenige sein, der sagt: „Warte, das klingt nicht richtig“, und die Fakten überprüft.

2. Der kluge Schalter (Metakognition und Entscheidungsfindung)
Diese mit 55 Instanzen gefundene Fähigkeit handelt davon, zu wissen, wann man den Roboter benutzt und wann man ihn ausschaltet. Es ist, als würde man entscheiden, ob man eine Bohrmaschine benutzt, um ein Bild aufzuhängen, oder nur einen Hammer verwendet. Die Forscher fanden heraus, dass die besten Wissenschaftler die KI nicht den ganzen Job übernehmen lassen. Sie entscheiden, welche Teile der Forschung sicher für die KI sind (wie das Organisieren von Notizen) und welche Teile menschlich bleiben müssen (wie das Ziehen des endgültigen Schlusses). Es geht darum, der Kapitän des Schiffes zu sein, nicht nur ein Passagier.

3. Der moralische Kompass (Ethik, Privatsphäre und Integrität)
Mit 53 Erwähnungen geht es bei dieser Fähigkeit darum, fair zu spielen. Die Nutzung von KI bedeutet nicht nur, Antworten zu erhalten; es geht darum, dies zu tun, ohne zu stehlen, zu lügen oder Geheimnisse preiszugeben. Forscher müssen wissen, wie sie private Daten schützen, wie sie zugeben, wenn sie einen Roboter zum Schreiben eines Teils ihres Papers verwendet haben, und wie sie sicherstellen, dass sie nicht versehentlich plagiieren. Es ist der Unterschied zwischen der Verwendung eines Taschenrechners, um Mathe zu machen, und dem Betrug bei einem Test, indem man jemanden anderen die Arbeit für sich machen lässt.

4. Die Kunst des Fragens (Prompt Engineering)
Dies tauchte 38 Mal auf. Wenn Sie dem Roboter eine vage Frage stellen wie „Erzähl mir etwas über die Wissenschaft“, erhalten Sie eine vage, langweilige Antwort. Aber wenn Sie fragen: „Erkläre die Relativitätstheorie einem 12-Jährigen unter Verwendung einer Pizza-Analogie“, erhalten Sie etwas Erstaunliches. Diese Fähigkeit handelt davon, zu lernen, wie man mit der KI spricht. Es ist, als wäre man ein Regisseur, der Anweisungen an einen Schauspieler gibt; je besser Ihr Skript (der Prompt) ist, desto besser ist die Leistung. Forscher fanden heraus, dass das ständige Verfeinern dieser Fragen der Schlüssel ist, um nützliche Ergebnisse zu erzielen.

5. Die Papier-Spur (Reproduzierbarkeit und Berichterstattung)
Gefunden in 29 Instanzen, geht es hierbei um das Führen eines Tagebuchs. Wenn Sie ein KI-Tool verwenden, um Informationen zu finden, müssen Sie genau aufschreiben, was Sie gefragt haben, welche Version des Tools Sie verwendet haben und wie Sie dessen Arbeit überprüft haben. Warum? Damit, wenn jemand anderes Ihr Experiment wiederholen möchte, er genau sehen kann, wie Sie es gemacht haben. Es ist, als würde man eine Brotkrumenspur hinterlassen, damit niemand im Wald Ihrer Forschung verloren geht.

6. Der Bauplan-Ersteller (Methodisches und experimentelles Design)
Diese Fähigkeit, die 20 Mal erwähnt wurde, handelt von der Planung des gesamten Projekts, noch bevor Sie die KI überhaupt einschalten. Es ist wie ein Architekt, der einen Bauplan zeichnet, bevor er einen einzigen Stein legt. Forscher müssen ihre Studien so konzipieren, dass die KI angemessen hineinpasst, ohne die Struktur zu zerstören. Sie müssen ihre Ziele und Grenzen klar definieren, damit der Roboter nicht abdriftet und ein Haus auf einem Sumpf baut.

7. Der Technik-Übersetzer (KI-Literacy und technisches Wissen)
Interessanterweise wurde dies seltener erwähnt (nur 16 Mal) und wurde als Risiko eingestuft, falls es fehlt. Das bedeutet nicht, dass Forscher Softwareentwickler sein müssen, die die KI von Grund auf neu bauen können. Stattdessen müssen sie verstehen, wie der Roboter denkt, wo seine Grenzen liegen und welche Arten von Fehlern er dazu neigt zu machen. Es ist, als wüsste man, dass ein Auto Benzin und Bremsen braucht, auch wenn man nicht weiß, wie man den Motor baut. Ohtl dieser grundlegenden Kenntnisse könnten Sie das Auto vielleicht anweisen, selbst zu fahren, obwohl es eigentlich kaputt ist.

8. Der Daten-Detektiv (Datenanalyse und Interpretation)
Gefunden in nur 7 Instanzen, geht es hierbei darum, die KI zu nutzen, um beim Berechnen von Zahlen oder beim Finden von Mustern in Daten zu helfen. Aber das Papier ist eindeutig: Der Mensch muss immer noch derjenige sein, der interpretiert, was diese Zahlen bedeuten. Die KI kann ein Muster finden, aber der Mensch muss entscheiden, ob dieses Muster wichtig ist oder nur ein Zufall.

Das große Ganze

Die Autoren schlagen vor, dass die Nutzung von KI in der Forschung nicht nur bedeutet, ein neues Werkzeug zu erlernen, sondern vielmehr, ein besserer, kritischerer Denker zu werden. Die wichtigste Erkenntnis ist, dass der Mensch immer noch der Chef ist. Die KI ist ein mächtiger Assistent, aber sie kann nicht den Bedarf an menschlichem Urteilsvermögen, Fachwissen und Verantwortlichkeit ersetzen. Wenn ein Forscher nicht über das „Expertenauge“ oder den „moralischen Kompass“ verfügt, könnte die KI ihn in die Irre führen.

Das Papier kommt zu dem Schluss, dass Schulen und Ausbildungsprogramme diese acht Fähigkeiten gemeinsam lehren müssen. Es reicht nicht aus, Studenten nur zu zeigen, wie man einen Prompt eintippt; sie müssen lernen, wie man die Antworten hinterfragt, wie man ethisch bleibt und wie man den Menschen in den Prozess einbindet. In einer Welt, in der Roboter Essays schreiben und Daten analysieren können, ist die wertvollste Fähigkeit, die ein Forscher besitzen kann, die Weisheit zu wissen, wann man dem Roboter vertraut und wann man seinem eigenen Gehirn vertraut.