💬 NLP

Algospeak, Hiding in the Open: The Trade-off Between Legible Meaning and Detection Avoidance

Dieser Beitrag stellt ein formales Rahmenwerk und einen Datensatz vor, um den Zielkonflikt zwischen Erkennbarkeit und Verständlichkeit bei „Algospeak"-Umgehungsstrategien zu analysieren, und definiert einen Schwellenwert der „Mehrheitsverständlichen Modulation", um zu quantifizieren, wie linguistische Veränderungen sowohl das menschliche Verständnis als auch die KI-Erkennung beeinflussen.

Ursprüngliche Autoren: Jan Fillies, Ronald E. Robertson, Jeffrey Hancock

Veröffentlicht 2026-05-08

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Jan Fillies, Ronald E. Robertson, Jeffrey Hancock

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich das Internet als einen großen, geschäftigen Marktplatz vor. Auf diesem Platz gibt es zwei Hauptgruppen: die Marktruf (Menschen oder Bots, die versuchen, Botschaften zu verbreiten) und die Marktwächter (Algorithmen, die entwickelt wurden, um schädliche Lügen, Betrug oder toxische Sprache zu stoppen).

Lange Zeit schrien die Marktruf einfach ihre Botschaften heraus. Doch die Marktwächter wurden schlau; sie lernten, bestimmte Wörter und Muster zu erkennen, die „Gefahr" bedeuteten. Also begannen die Ruf ein Spiel des „Versteckens" mit den Wörtern. Sie tauschten „Impfstoff" gegen „Vaxx", „töten" gegen „k!llen" oder verwendeten Emojis als Ersatz für Wörter. Diese neue, modifizierte Sprechweise wird als Algospeak bezeichnet.

Dieser Artikel ist wie eine wissenschaftliche Studie dieses Spiels. Die Forscher wollten die „Goldilocks-Zone" dieses Versteckspiels verstehen: Wie stark können Sie Ihre Wörter verändern, um die Wächter zu täuschen, ohne die Menschen zu verwirren, die Sie erreichen wollen?

Hier ist eine Aufschlüsselung ihrer Erkenntnisse mit einfachen Analogien:

1. Das Problem „Zu viel, zu früh" (Der Zielkonflikt)

Die Forscher entdeckten ein empfindliches Gleichgewicht.

Wenn Sie Ihre Wörter zu wenig verändern: Die Marktwächter fangen Sie sofort ab.
Wenn Sie Ihre Wörter zu stark verändern: Die Marktwächter mögen Sie zwar übersehen, aber nun können Ihre Freunde (das menschliche Publikum) Sie ebenfalls nicht verstehen. Sie haben Ihre Botschaft in einen geheimen Code verwandelt, den nur wenige Menschen kennen, was den Zweck der Verbreitung einer Botschaft an eine Menge zunichtemacht.

Sie nennen den perfekten Mittelpunkt die „Mehrheitsverständliche Modulation" (MUM). Denken Sie daran wie am Lautstärkeregler eines Radios. Wenn Sie ihn nur ein wenig aufdrehen, übertönt das Rauschen (die Wächter) die Musik. Wenn Sie ihn zu stark aufdrehen, wird die Musik so verzerrt, dass selbst Ihre Freunde nicht mehr erkennen können, um welches Lied es sich handelt. Die MUM ist genau die Einstellung des Lautstärkereglers, bei der die Musik für Ihre Freunde klar genug ist, aber das Rauschen gerade laut genug ist, um die Maschine zu verwirren.

2. Das Experiment: Ein „Fake-News"-Labor

Um dies zu testen, verwendeten die Forscher keine echten Menschen. Stattdessen bauten sie ein digitales Labor mit KI-Robotern (Large Language Models), die die Rollen sowohl der Marktruf als auch der Marktwächter übernahmen.

Der Aufbau: Sie nahmen 20 gängige Sätze über COVID-19-Fehlinformationen (wie „Trinken von Bleiche heilt das Virus").
Die Verzerrung: Sie erstellten 700 Versionen dieser Sätze. Einige hatten nur wenige Buchstaben geändert (wie „c0vid"), einige verwendeten Abkürzungen, einige Emojis und einige völlig erfundene Wörter.
Der Test: Sie stellten verschiedenen KI-Modellen zwei Fragen:
1. Der Wächter-Test: „Ist das eine Lüge?" (Kann die KI die Fehlinformation erkennen?)
2. Der Freund-Test: „Was bedeutete dieser Satz ursprünglich?" (Kann die KI die ursprüngliche Bedeutung rekonstruieren?)

3. Was sie fanden

Die Ergebnisse zeigten ein klares Muster, wie eine Rutsche, die nach unten führt:

Je mehr die Wörter „verwirbelt" wurden (mehr Modulation): Die KI-„Wächter" wurden schlechter darin, die Lügen zu erkennen.
Gleichzeitig: Die KI-„Freunde" wurden schlechter darin zu verstehen, was die verwirrten Wörter bedeuteten.

Die überraschende Wendung:
Die Forscher stellten fest, dass verschiedene Arten des Verwirbelns unterschiedlich wirken.

Die „Geheimwort"-Strategie: Ein Wort durch ein Geheimwort zu ersetzen (wie „Zitrone" für „Virus" zu verwenden) war sehr gut darin, die Wächter zu täuschen, machte die Botschaft aber sehr schnell schwer verständlich.
Die „Rechtschreibänderungs"-Strategie: Einen Buchstaben einfach durch eine Zahl zu ersetzen (wie „v1rus") war für die Wächter leicht zu erkennen, da es ein häufiger Trick ist, den sie bereits kennen.
Die „Phonetische"-Strategie: Wörter so zu schreiben, wie sie klingen (wie „Kovit") war für die KI überraschend schwer zu verstehen, obwohl es für Menschen einfach aussah.

4. Die „Red Team"-Warnung

Die Autoren betonen sehr sorgfältig, dass sie nicht lernen, wie Bösewichte gewinnen können. Stattdessen agieren sie als „Red Teamer" (wie Sicherheitstester, die versuchen, einen Bankschrank zu knacken, damit die Bank das Schloss reparieren kann).

Sie sagen: „Wir haben genau gefunden, wo das Schloss schwach ist. Wenn Sie ein Sicherheitssystem bauen (ein Inhaltsmoderator), müssen Sie wissen, dass, wenn Leute beginnen, 'Geheimwörter' zu verwenden, Ihr aktuelles System versagen wird. Aber wenn Sie das System zu streng machen, könnten Sie versehentlich normale Menschen blockieren, die nur versuchen zu sprechen."

Zusammenfassung

Dieser Artikel ist eine Landkarte des Spiels „Im Verborgenen im Hellen". Er beweist, dass es eine bestimmte Grenze gibt, wie stark Sie Sprache verzerren können, um einen Computer zu täuschen, bevor Sie Ihr menschliches Publikum verlieren. Er bietet uns eine Möglichkeit, diese Grenze zu messen, damit wir bessere Werkzeuge entwickeln können, um böswillige Akteure aufzuspüren, ohne normale Gespräche zum Schweigen zu bringen.

Wichtiger Hinweis: Die Studie war ein „Proof of Concept" unter Verwendung von KI und synthetischen (gefälschten) Beispielen. Sie testete keine echten Menschen oder reale Social-Media-Plattformen. Daher sind dies die ersten Schritte zum Verständnis des Problems, nicht die endgültige Lösung.

Technisches Fazit: Algospeak, Verstecken im Offenen

Problemstellung
Da Large Language Models (LLMs) die Inhaltsgenerierung und -moderation zunehmend vermitteln, nutzen böswillige Akteure „Algospeak" – eine kommunikative Praxis, die linguistische Umgehungsstrategien umfasst –, um algorithmische Erkennung zu vermeiden, während die menschliche Verständlichkeit erhalten bleibt. Dies erzeugt eine ko-evolutionäre Dynamik, bei der Umgehungstechniken sich intensivieren und die Fähigkeit automatisierter Systeme herausfordern, toxische oder irreführende Inhalte zu erkennen. In der Literatur besteht eine kritische Lücke hinsichtlich eines prinzipiengeleiteten Verständnisses des Trade-offs zwischen Erkennbarkeit (durch automatisierte Systeme) und Verstehbarkeit (durch menschliche oder LLM-Empfänger). Insbesondere fehlt es an einer formalen Metrik, um den Punkt zu quantifizieren, an dem weitere linguistische Modulation zwar Detektoren erfolgreich umgeht, die Botschaft jedoch für die Mehrheit des Publikums unverständlich macht.

Methodik
Die Autoren formalisieren die Dynamiken von Algospeak unter Verwendung des Joint-Action-Modells von Clark (1996) und konzeptualisieren Sprachgebrauch als kollaborative Aktivität zwischen „Adressaten" (beabsichtigte menschliche/LLM-Empfänger) und „Zuschauern" (algorithmische Moderatoren). Darauf aufbauend schlagen sie zwei Kernpropositionen vor:

Mit zunehmender linguistischer Modulation nimmt der Anteil der Teilnehmer ab, die die zugrundeliegende Bedeutung verstehen können.
Mit zunehmender Modulation nimmt die Fähigkeit trainierter Klassifikatoren ab, die zugrundeliegende Bedeutung zu erkennen und Inhalte korrekt zu klassifizieren.

Um diese Propositionen zu testen, führt die Studie ein reproduzierbares Framework und einen Referenzdatensatz ein:

Datensatz-Erstellung: Ein Proof-of-Concept-Datensatz mit 700 modulierten Items wurde unter Verwendung von COVID-19-Fehlinformationen als Domäne erstellt. Der Prozess umfasste 20 Basissätze, die durch GPT-4o validiert wurden. Diese wurden über fünf Stufen hinweg (ca. 10 % bis 50 % Verzerrung) unter Verwendung von sieben in der vorherigen Literatur identifizierten, distincten Algospeak-Strategien moduliert (z. B. Codewörter, Ersetzungen durch unbekannte Wörter, Abkürzungen, phonetische Ersetzungen, Umschreibungen).
Experimentelles Setup: Zwei verknüpfte Evaluierungen wurden mit sieben verschiedenen LLMs durchgeführt (einschließlich GPT-4o, Claude, Llama, Mistral, Qwen und Grok):
- Detektionsexperiment: Modelle wurden aufgefordert, Aussagen als Fehlinformationen oder nicht als solche zu klassifizieren.
- Verstehbarkeitsexperiment: Modelle wurden damit beauftragt, die ursprünglichen Wörter aus modulierten Eingaben wiederherzustellen. Die Leistung wurde anhand von Ähnlichkeitswerten im Vergleich zum Originaltext gemessen.
Analyse: Der Zusammenhang zwischen Modulationsniveau und Leistung wurde mit zwei-parametrischen logistischen (sigmoiden) Funktionen modelliert. Zu den wichtigsten Metriken gehörten der Schwellenwert Majority Understandable Modulation (MUM) (das Modulationsniveau, bei dem die Mehrheit der Modelle das Verständnis oder die Detektion verliert) und der Punkt Individual Majority Understandable Modulation (IMUM).

Hauptbeiträge

Formale Definition und Dynamiken: Das Papier liefert eine formale Definition von Algospeak als kontextsensitives, multimodales Register, bei dem Oberflächenformen gezielt moduliert werden, um die Bedeutung für Adressaten zu bewahren und gleichzeitig die Detektionswahrscheinlichkeit durch automatisierte Zuschauer zu senken.
MUM-Konzept: Es führt das Konzept der Majority Understandable Modulation (MUM) ein und definiert die spezifische Schwelle, bei der zusätzliche umgehende Änderungen die Detektorumgehung verbessern, aber zu einem Verlust des Verständnisses für die Mehrheit der Empfänger führen.
Framework und Datensatz: Die Autoren veröffentlichen ein Framework zur Erstellung bedeutungserhaltender, Algospeak-artiger Varianten sowie einen Referenzdatensatz mit 700 modulierten Beispielen über sieben Strategien und fünf Modulationsstufen.
Vereinheitlichte empirische Analyse: Die Studie bietet ein vereinheitlichtes experimentelles Framework, das LLMs sowohl als Interpreten (zur Bedeutungsrekonstruktion) als auch als Klassifikatoren (zur Erkennung von Richtlinienverstößen) behandelt und konsistente MUM-Punkte über verschiedene Modelle und Strategien hinweg aufdeckt.

Ergebnisse

Detektion vs. Modulation: Für die meisten Strategien (z. B. Codewörter, neue Wörter, Abkürzungen) ging die Detektionsleistung mit zunehmender Modulation monoton zurück. Sechs der sieben Strategien zeigten starke sigmoidale Anpassungen (adjustiertes $R^2 > 0,90$ ) und signifikante monoton abnehmende Detektionsraten über die Modelle hinweg. Strategien, die auf einfacher Zeichenersetzung beruhen (z. B. „unbekanntes Wort" oder phonetische Ähnlichkeit), passten jedoch oft nicht gut an die sigmoidale Kurve an, was darauf hindeutet, dass sie die Detektion nicht effektiv umgehen oder leicht als Standard-Tippfehler erkannt werden.
Verstehbarkeit vs. Modulation: Die Verstehbarkeit nahm ebenfalls mit zunehmender Modulation ab, wobei die Beziehung über die Modelle hinweg variabler war. Strategien, die die Oberflächenform bewahren (z. B. phonetische Änderungen), ermöglichten auch bei hohen Modulationsniveaus höhere Rekonstruktionsraten, während Codewörter zu einem schnellen Abfall der Verstehbarkeit führten.
Modellvarianz: Während der allgemeine Trend hielt, performten spezifische Strategien über die Modelle hinweg unterschiedlich. Beispielsweise waren „Codewort"-Strategien bei der Umgehung der Detektion hochwirksam (weniger Modulationen erforderlich, um den MUM-Schwellenwert zu erreichen), reduzierten jedoch auch die Verstehbarkeit schnell.
Trade-off: Die Ergebnisse bestätigen einen Trade-off: Strategien, die die Detektorleistung effektiv verschlechtern, verschlechtern oft gleichzeitig die Verständlichkeit, wobei der spezifische „Kipppunkt" (MUM) je nach Strategie und Modell variiert.

Bedeutung und Behauptungen
Das Papier beansprucht, den Grundstein für das Verständnis der ko-evolutionären Dynamiken der Sprache in LLM-vermittelten Ökosystemen zu legen. Durch die Etablierung einer messbaren Grenze (MUM) für effektive, aber interpretierbare umgehende Sprache zielt die Arbeit darauf ab:

Eine Grundlage für den Entwurf robusterer Moderationssysteme zu schaffen.
Ein Framework zur Bewertung der Wirksamkeit von Moderationstools gegenüber sich entwickelnden Umgehungstaktiken anzubieten.
Hervorzuheben, dass Detektion und Verstehen unterschiedliche Fähigkeiten in LLMs sind; ein Modell kann „anomale Muster" erfolgreich markieren (Detektion), ohne notwendigerweise die beabsichtigte Bedeutung wiederherzustellen (Verstehen).

Die Autoren rahmen diese Arbeit ausdrücklich als „Proof-of-Concept" und als „Red-Teaming"-Bemühung zur Unterstützung der defensiven Systementwicklung ein. Sie räumen Einschränkungen ein, darunter die Verwendung synthetischer Daten, den Fokus auf Englisch und COVID-19-Fehlinformationen sowie das Fehlen einer Validierung durch menschliche Probanden, und stellen fest, dass zukünftige Arbeiten auf diverse Domänen und menschliche Populationen ausgeweitet werden müssen.