Beyond speculation: Measuring the growing presence of LLM-generated texts in multilingual disinformation
Diese Studie liefert den ersten empirischen Beleg für eine wachsende Präsenz von durch LLMs generierten Inhalten in realen multilingualen Desinformationsdatensätzen nach der Veröffentlichung von ChatGPT und dokumentiert spezifische Muster über Sprachen, Plattformen und Zeiträume hinweg, um die wissenschaftliche Debatte über das tatsächliche Ausmaß dieser Bedrohung zu überbrücken.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Schreibt der „Roboter-Stift“ Lügen?
Stellen Sie sich eine Welt vor, in der jeder einen superintelligenten, sofort schreibenden Stift (ein Large Language Model oder LLM) in die Hand nehmen kann, der Geschichten, Nachrichten und Beiträge in fast jeder Sprache schreiben kann. Seit der Veröffentlichung von Tools wie ChatGPT sind die Menschen besorgt: Wird dieser Stift dazu verwendet, Fake News und Lügen (Desinformation) zu schreiben?
Lange Zeit diskutierten Experten im Kreis. Die einen sagten: „Keine Sorge, das Internet ist zu chaotisch, als dass Roboter es übernehmen könnten.“ Andere sagten: „Seien Sie vorsichtig, es gibt versteckte Ecken, in denen Roboter bereits Unwesen treiben.“
Dieses Paper ist das erste, das tatsächlich misst, wie viele dieser „robotergeschriebenen“ Lügen es in der realen Welt gibt. Sie haben nicht nur geraten; sie sind in die digitalen Archive von Faktencheck-Nachrichten und sozialen Medien eingetaucht, um Beweise zu finden.
Die Detektiv-Werkzeuge: Wie sie die Roboter fanden
Die Forscher bauten zwei „digitale Lügendetektoren“. Denken Sie an diese als zwei verschiedene Sicherheitskräfte vor einem Club:
- Wächter A (Gemma_GenAI): Trainiert darauf, Roboter-Schrift basierend auf allgemeinen Mustern zu erkennen.
- Wächter B (Gemma_MultiDomain): Speziell auf soziale Medien und Nachrichten trainiert, um Roboter-Schrift zu erkennen.
Sie testeten diese Wächter an bekannten Listen von „Mensch vs. Roboter“-Texten, um sicherzustellen, dass sie ihren Job gut machen. Sie fanden heraus, dass sie, wenn beide Wächter übereinstimmten, dass ein Text von einem Roboter geschrieben wurde, in 93 % bis 99 % der Fälle richtig lagen.
Als sie ihren Wächtern vertrauten, schickten sie diese auf Patrouille in vier verschiedene „Nachbarschaften“ (Datensätze) mit realen Inhalten, darunter faktengeprüfte Behauptungen, Election-Tweets und kriegsbezogene Nachrichten.
Was sie fanden: Die Roboter-Invasion ist real (aber ungleichmäßig)
Die Studie ergab, dass robotergeschriebene Desinformation definitiv vorhanden ist, aber es ist keine Flut; es ist eher wie ein langsames Leck, das immer größer wird.
1. Der „Vorher-Nachher“-ChatGPT-Effekt
Stellen Sie sich eine Zeitlinie vor. Vor Ende 2022 (als ChatGPT populär wurde), war die Menge an robotergeschriebenen Lügen sehr gering.
- Die Analogie: Denken Sie an einen ruhigen Teich. Im Jahr 2021 wurden nur wenige Wellen (etwa 1 %) durch Roboter verursacht.
- Die Veränderung: Bis 2023, nach der Ankunft von ChatGPT, wuchsen die Wellen. Die Studie fand heraus, dass im Jahr 2023 zwischen 1,5 % und 15 % der faktengeprüften Lügen in ihrem Datensatz wahrscheinlich von Robotern geschrieben oder bearbeitet wurden. Die sicherste Schätzung liegt bei etwa 1,85 %.
- Der Trend: Die Zahl der robotergeschriebenen Lügen steigt jedes Jahr an.
2. Der „gezielte“ Angriff
Die Roboter schreiben Lügen nicht in jeder Sprache oder auf jeder Plattform gleichermaßen. Es ist wie ein Einbrecher, der nur bestimmte Häuser ins Visier nimmt.
- Sprachen: Während Englisch und Spanisch die meisten Roboter-Lügen haben, einfach weil es mehr Menschen gibt, die diese Sprachen sprechen, ist der Prozentsatz der Lügen in Polnisch (4,7 %) und Französisch (4,2 %) am höchsten.
- Plattformen: Die Roboter sind auf Instagram (1,5 %) und Facebook (1,3 %) am aktivsten und auf Twitter/X (0,64 %) weniger aktiv.
- Spezifische Ereignisse: Während der US-Wahl 2024 verdoppelte sich die Menge an robotergeschriebenem Inhalt in Tweets von Januar bis November und erreichte ihren Höhepunkt kurz vor der Wahl.
3. Die „Fake News“-Datensätze
Die Forscher untersuchten auch Datensätze, die speziell als „Fake News“ gekennzeichnet sind.
- Sie fanden heraus, dass 2,6 % bis 3,3 % der als „fake“ deklarierten Artikel tatsächlich von Robotern geschrieben wurden.
- In einem Datensatz über den Krieg in Gaza fanden sie heraus, dass über 10 % der französischsprachigen Posts robotergeneriert waren, verglichen mit deutlich niedrigeren Zahlen in anderen Sprachen.
Warum das wichtig ist
Das Paper kommt zu dem Schluss, dass die Angst, dass Roboter Lügen schreiben, nicht nur Spekulation ist; es passiert gerade jetzt.
- Die „schlechten“ Nachrichten: Roboter werden eingesetzt, um Desinformation zu erstellen, und sie werden immer besser darin. Dies geschieht in spezifischen Sprachen und zu bestimmten Zeiten (wie Wahlen), was darauf hindeutet, dass jemand sie strategisch einsetzt.
- Die „guten“ Nachrichten: Die Menge an Roboter-Lügen ist immer noch ein kleiner Bruchteil des gesamten Internets (etwa 2 % im Jahr 2024). Da das Internet jedoch so riesig ist, sind selbst 2 % eine große Menge an gefälschtem Inhalt.
- Die Warnung: Wenn Roboter klüger werden, könnten sie anfangen, das Wasser zu „verunreinigen“. Wenn zukünftige KI-Modelle mit Daten trainiert werden, die bereits robotergeschriebene Lügen enthalten, könnten diese neuen Modelle anfangen, die Lügen für wahr zu halten und sie noch schneller zu verbreiten.
Das Fazit
Die Autoren sagen: „Hören Sie auf zu raten und fangen Sie an zu messen.“ Wir haben nun den Beweis, dass Roboter in der realen Welt Lügen schreiben, insbesondere auf Polnisch, Französisch und während Wahlzeiten. Wir brauchen bessere Werkzeuge, um sie zu fangen, und bessere Systeme, die uns sagen, wenn wir die Geschichte eines Roboters lesen, damit wir nicht getäuscht werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.