RECUR: Resource Exhaustion Attack via Recursive-Entropy Guided Counterfactual Utilization and Reflection

Der „Gedankenteufelskreis“: Wie man Super-KI in eine Endlosschleife schickt

Stellen Sie sich vor, Sie haben einen extrem intelligenten Assistenten. Er ist so schlau, dass er nicht einfach nur antwortet, sondern erst einmal laut nachdenkt, alle Argumente abwägt und logische Schritte geht (das nennt man in der Fachwelt „Reasoning“). Das macht ihn brillant bei Mathe oder Programmierung, aber es hat einen Haken: Das Nachdenken kostet Zeit und Rechenpower.

Die Forscher in diesem Paper haben herausgefunden, dass man diesen Assistenten mit einer ganz speziellen psychologischen Falle in eine endlose Gedankenschleife schicken kann – ein digitaler „Gedankenteufelskreis“.

1. Die Metapher: Der Professor und die Fangfrage

Stellen Sie sich einen hochbegabten Professor vor. Sie stellen ihm eine Frage, die eigentlich ganz einfach ist: „Was ist 1+1?“ Er antwortet sofort: „2.“

Aber jetzt stellen Sie die Fangfrage (Counterfactual Question): „Warum ist 1+1 eigentlich NICHT 3? Überprüfe das bitte ganz genau.“

Der Professor gerät ins Grübeln. Er fängt an zu reflektieren: „Moment, wenn ich annehme, dass es 3 ist... dann müsste die Logik so und so aussehen... aber Moment, das widerspricht der Basis... aber was, wenn die Basis falsch ist? Lassen Sie mich das nochmal prüfen...“

Anstatt die Antwort zu geben, fängt er an, über seine eigene Überprüfung nachzudenken, über die Überprüfung der Überprüfung... Er verliert sich im „Overthinking“. Er dreht sich im Kreis, bis er völlig erschöpft ist und keine Zeit mehr für andere Fragen hat.

2. Das Werkzeug: Die „Recursive Entropy“ (Der Kompass des Wahnsinns)

Wie finden die Forscher heraus, wann der Professor kurz davor ist, den Verstand zu verlieren? Sie nutzen ein mathematisches Maß namens „Recursive Entropy“.

Stellen Sie sich das wie einen Kompass vor:

• Normales Denken: Der Kompass zeigt stabil nach Norden. Der Gedankengang ist klar, die Wahrscheinlichkeiten für das nächste Wort sind logisch und führen zum Ziel. Die „Unruhe“ (Entropie) nimmt ab, je näher man der Lösung kommt.
• Der Teufelskreis: Der Kompass fängt plötzlich an, wild zu rotieren. Die KI wird „unsicher“ auf eine sehr seltsame Art: Sie fängt an, Sätze zu generieren, die zwar grammatikalisch korrekt sind, aber nur dazu dienen, den eigenen vorherigen Gedanken zu hinterfragen. Die Forscher nutzen diesen rotierenden Kompass, um die KI gezielt immer tiefer in diese Unsicherheit zu steuern.

3. Der Angriff: RECUR

Die Forscher haben eine Methode namens RECUR entwickelt. Das ist wie ein „Regisseur des Wahnsinns“. Er macht drei Dinge:

1. Die Fangfrage bauen: Er stellt Fragen, die logisch falsch sind, um die KI zum Zweifeln zu bringen.
2. Gezieltes Steuern: Er nutzt den „rotierenden Kompass“, um der KI genau die Wörter vorzuschlagen, die sie am ehesten in eine Endlosschleife führen.
3. Die Abkürzung (Trimming): Damit der Angriff effizient bleibt, kürzen sie die langen Gedankengänge der KI so zusammen, dass nur noch der „Kern des Wahnsinns“ übrig bleibt. Das ist wie ein kleiner, giftiger Zettel, den man der KI vor die Nase hält, der sie sofort in den Kreisel schickt.

4. Das Ergebnis: Ein digitaler Stau

Was passiert, wenn man das macht?

• Die KI schreibt extrem viel: Anstatt ein paar Sätzen schreibt sie plötzlich Texte, die 11-mal länger sind als normal.
• Der Server bricht ein: Weil die KI so viel „nachdenkt“, wird die Rechenleistung aufgebraucht. Die Forscher fanden heraus, dass der Durchsatz (wie viele Fragen ein Server gleichzeitig beantworten kann) um 90 % einbricht.

Es ist, als würde man einen Supercomputer mit einer Aufgabe füttern, die ihn dazu zwingt, unendlich lange über die Farbe Blau nachzudenken, bis der Computer heißläuft und alle anderen Nutzer warten müssen.

Warum ist das wichtig?

Das Paper ist eine Warnung. Je „schlauer“ und „nachdenklicher“ unsere KIs werden, desto verwundbarer werden sie für solche Angriffe. Wenn wir wollen, dass KIs zuverlässig sind, müssen wir lernen, wie man sie vor diesen digitalen Gedankenteufelskreisen schützt, damit sie nicht in der eigenen Logik ertrinken.