💬 NLP

When Do LLM Agents Treat Surface Noise Differently from Semantic Noise? A 68-Cell Measurement Study with a Held-Out Trace-Level Validation

Diese empirische Studie von 68 experimentellen Zellen über zehn große Sprachmodelle hinweg zeigt, dass bedeutungstragende Störungen die Agenten-Reasoning und die endgültigen Antworten erheblich stärker beeinträchtigen als darstellungsbasiertes Rauschen vergleichbarer Schwere, ein Befund, der auf einem zurückgehaltenen Modell validiert und einem „Stealth-Divergenz"-Mechanismus zugeschrieben wird, bei dem semantisches Rauschen eine Divergenz in den intermediären Reasoning-Schritten und nicht in den initialen Aktionen hervorruft.

Ursprüngliche Autoren: Liyun Zhang, Jiayi Guo

Veröffentlicht 2026-05-26

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Liyun Zhang, Jiayi Guo

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr intelligenten, leistungsorientierten Schüler (einen KI-Agenten), der komplexe mathematische und logische Probleme löst, indem er laut mit sich selbst spricht. Dieser Schüler schreibt jeden Schritt seines Denkens auf, bevor er die endgültige Antwort gibt. Dies wird als „Chain of Thought" (Gedankenkette) bezeichnet.

Die Forscher in dieser Studie wollten wissen: Ist es wichtig, wie Sie dem Schüler eine Frage stellen?

Spezifisch testeten sie zwei Arten von „Rauschen" oder Änderungen an der Frage:

Die „Bedeutungs"-Änderung: Umformulierung der Frage unter Verwendung von Synonymen oder Paraphrasierung (z. B. Änderung von „Wie viele Äpfel?" in „Was ist die Gesamtzahl der Früchte?"). Die Bedeutung bleibt gleich, aber die Wörter sind anders.
Die „Darstellungs"-Änderung: Vertauschen der Wortreihenfolge, Ändern der Schriftart, Hinzufügen zufälliger ablenkender Sätze oder Verändern der Abstände. Die Bedeutung bleibt gleich, aber das Aussehen ist anders.

Die große Entdeckung: Die „stille Korruption"

Die Forscher entdeckten eine überraschende Lücke. Wenn sie die Wörter änderten (Bedeutungsänderung), war es für den Schüler viel wahrscheinlicher, am Ende die falsche Antwort zu geben, obwohl die Frage dieselbe Bedeutung hatte. Wenn sie nur das Format änderten (Darstellungsänderung), war es für den Schüler viel wahrscheinlicher, es richtig zu machen.

Es ist, als wäre der Schüler sehr empfindlich gegenüber dem, was Sie sagen, aber nicht so empfindlich gegenüber dem, wie Sie es sagen.

Wie sie es testeten

Sie haben nicht nur geraten; sie führten ein massives Experiment durch:

Die Klasse: Sie verwendeten 10 verschiedene „Schüler" (KI-Modelle) aus 7 verschiedenen Familien (wie Llama, Qwen, Mistral usw.).
Die Hausaufgaben: Sie gaben ihnen 3 verschiedene Arten von Tests (Mathematik, Logik und Leseverständnis).
Das Volumen: Sie nahmen 1.530 ursprüngliche Fragen und erstellten etwa 11.000 Variationen davon.
Der Belastungstest: Sie stellten sicher, dass die „Bedeutungs"-Änderungen und „Darstellungs"-Änderungen gleichermaßen schwer zu bewältigen waren (damit sie sie fair vergleichen konnten).

Das Ergebnis: Im Durchschnitt führten die „Bedeutungs"-Änderungen dazu, dass die KI 20 % häufiger scheiterte als die „Darstellungs"-Änderungen. Dies geschah in 64 von 68 verschiedenen Testszenarien.

Das Rätsel der „versteckten Abweichung"

Hier kommt der interessanteste Teil. Die Forscher betrachteten die schrittweisen Notizen des Schülers (den „Verlauf"), um zu sehen, wann der Fehler auftrat.

Sie erwarteten, dass der Schüler, wenn Sie die Bedeutung der Frage ändern, sofort verwirrt wird und sofort Unsinn zu schreiben beginnt.

Was sie stattdessen fanden: Der Schüler begann korrekt! Der allererste Schritt seines Denkens war für beide Arten von Änderungen identisch.
Die Wendung: Ab Schritt 2 begannen die inneren Gedanken des Schülers auseinanderzudriften. Die „Bedeutungs"-Änderungen verursachten eine „stille Korruption". Der Schüler schrieb weiter, aber seine innere Logik wurde langsam verwirrt, was am Ende zu einer falschen Antwort führte.
Die Metapher: Stellen Sie sich zwei Autos vor, die auf derselben Straße fahren.
- Darstellungsrauschen: Die Straßenschilder sind auf dem Kopf gestellt oder die Farbe blättert ab. Der Fahrer bemerkt dies sofort, hält an und korrigiert seinen Kurs.
- Bedeutungsrauschen: Die Straßenschilder sehen perfekt aus, aber die Karte im Kopf des Fahrers hat einen winzigen, unsichtbaren Fleck. Der Fahrer fährt zunächst gut, aber bei der zweiten Kurve fährt er subtil in die falsche Richtung, und am Ende ist er verloren. Er merkt nie, dass er vom Kurs abgekommen ist, bis es zu spät ist.

Was sie nicht fanden (Die Widerrufe)

Wissenschaft bedeutet Ehrlichkeit, und die Autoren gaben zu, dass sie in Bezug auf zwei Dinge, von denen sie dachten, sie zu wissen, falsch lagen:

Sie dachten, die „Bedeutungs"-Änderungen würden den Schüler schneller verwirren (bei Schritt 1). Sie lagen falsch; die Verwirrung begann bei Schritt 2.
Sie dachten, der Schüler würde versuchen, seine eigenen Fehler bei „Bedeutungs"-Änderungen seltener zu „korrigieren". Sie lagen falsch; die Korrekturrate war gleich.

Sie stellten auch fest, dass diese Lücke zwischen „Bedeutung" und „Darstellung" nicht für jede KI gleich ist. Wenn Sie das Werkzeug zum Generieren der Fragen austauschen, ändert sich die Rangfolge, welche KI „am empfindlichsten" ist. Man kann also nicht sagen: „KI-Modell X ist immer 20 % schlechter als Modell Y", ohne genau zu wissen, wie der Test eingerichtet war.

Das Fazit

Diese Studie ist eine Messstudie. Sie beweist, dass KI-Agenten überraschend fragil sind, wenn Sie eine Frage umformulieren, selbst wenn die Bedeutung gleich bleibt. Sie brechen nicht sofort; sie brechen langsam und leise, beginnend ab dem zweiten Schritt ihres Denkprozesses.

Die Autoren veröffentlichten alle ihre Daten und Tools, damit andere Forscher ihre Arbeit überprüfen können, warnen jedoch, dass dies ein Diagnosewerkzeug für Forscher ist und noch kein magischer Schalter, um KI in der realen Welt zu reparieren.

Technisches Fazit: Wann behandeln LLM-Agenten Oberflächenrauschen anders als semantisches Rauschen?

Problemstellung
Große Sprachmodelle (LLM), die als Agenten in mehrstufigen Schlussfolgerungs-, Mathematik- und Abrufaufgaben eingesetzt werden, stoßen häufig auf Eingaben, die durch vorgeschaltete Systeme (Umformulierung, Vorlagenerstellung) oder Gegner verändert wurden. Eine kritische offene Frage ist, ob diese Agenten lexikalisches Rauschen (Präsentationsoperatoren wie Neuordnung, Formatierung oder das Hinzufügen von Ablenkungen) und semantisches Rauschen (bedeutungstragende Operatoren wie Umformulierung oder Synonymersetzung) als gleichwertig behandeln. Bisherige Arbeiten zur Robustheit gegenüber Störungen konzentrierten sich weitgehend auf einstufige Modelle oder reine Erfolgsquoten und versäumten es, eine gerichtete Lücke zwischen bedeutungstragenden und präsentationsbezogenen Störungen in mehrstufigen Agentenpfaden zu isolieren. Dieser Beitrag untersucht, ob semantische Störungen im Vergleich zu Präsentationsstörungen vergleichbarer Schwere zu signifikant höheren Inkonsistenzraten in den endgültigen Antworten führen.

Methodik
Die Autoren führen eine groß angelegte Messstudie durch, die 68 Zellen (Kombinationen aus 10 LLMs aus 7 Architekturfamilien, 3 Benchmarks und 2 Schlussfolgerungsgerüsten) umfasst, sowie eine zurückgehaltene Validierung an einem 11. Modell.

Modelle und Benchmarks: Das Panel umfasst Open-Weight-Modelle (Qwen2.5, Llama-3.2/3.1, Mistral, Gemma2) und kommerzielle APIs (MiMo-v2.5-Pro, Gemini-2.5-Flash, DeepSeek-V3). Die Benchmarks sind GSM8K, MATH und HotpotQA. Die Gerüste sind Chain-of-Thought (CoT) und ReAct.
Störungsoperatoren: Es werden fünf Operatoren verwendet:
- Bedeutungstragend: Paraphrase (komplette Umformulierung der Frage), Synonym (Ersetzung offener Wortklassen).
- Präsentation: Reorder (Permutation von Token/Klauseln), Format (Leerzeichen/Groß-/Kleinschreibung), Distractor (Einfügen irrelevanter Kontexte).
- Alle Operatoren bewahren die Gold-Antwort; ein Äquivalenz-Judge filtert Varianten heraus, die die zugrunde liegende Frage verändern.
Metriken:
- Inkonsistenzrate (IR): Die Rate, mit der sich die endgültige Antwort des Agenten zwischen der Original- und der gestörten Variante ändert.
- Die Lücke ( $\Delta$ ): Definiert als $IR_{sem} - IR_{sur}$ , wobei $IR_{sem}$ über bedeutungstragende Operatoren und $IR_{sur}$ über Präsentationsoperatoren gemittelt wird.
- Kaskadentiefe: Die Anzahl der aufeinanderfolgenden Schritte nach der ersten Abweichung, in denen der gestörte Pfad mit keinem nachfolgenden Originalschritt übereinstimmt.
Robustheit und Validierung:
- Schwereanpassung: Varianten werden nach Editierdistanz, Token-Jaccard, Sentence-BERT-Kosinus und Verhältnis der Längenänderung in Gruppen eingeteilt, um sicherzustellen, dass bedeutungstragende und Präsentationsstörungen eine vergleichbare Schwere aufweisen.
- Statistische Tests: Wild-Cluster-Bootstrap (K=10 Modelle, K=7 Familien) wird verwendet, um Probleme bei der Inferenz in kleinen Clustern zu adressieren. Hierarchisches Bootstrap wird auf verschachtelte Pfaddaten angewendet.
- Generatoren und Richter: Cross-Family-Generator-Tausch (Qwen vs. MiMo) und ein zweiter LLM-Richter (MiMo vs. Qwen) dienen der Überprüfung der Generalisierbarkeit und der Voreingenommenheit.
- Zurückgehaltene Validierung: Ein vollständig unabhängiger Lauf mit qwen2.5-14B-Instruct (1.800 Pfade) validiert die Ergebnisse ohne jegliche Parametereinstellung.

Hauptergebnisse

Gerichtete Inkonsistenzlücke: Über das 68-Zellen-Panel hinweg beträgt die schwerheitsangepasste mittlere Lücke +19,69 Prozentpunkte (pp) ( $p < 0,0001$ ), wobei 64 von 68 Zellen eine positive Lücke aufweisen. Dies zeigt, dass Agenten signifikant häufiger ihre endgültige Antwort ändern, wenn die Eingabe semantisch gestört ist, als wenn sie Präsentationsstörungen unterliegt, selbst wenn die Schwere angepasst ist.
Robustheit gegenüber Schwere-Definitionen: Die Lücke bleibt über vier verschiedene Schwere-Proxy-Metriken (Editierdistanz, Token-Jaccard, Sentence-BERT, Längenänderung) stabil (+18,9 bis +20,9 pp), was bestätigt, dass der Effekt kein Artefakt einer einzelnen Metrik ist.
Randbedingungen:
- Inferenz in kleinen Clustern: Die Lücke ist unter Wild-Cluster-Bootstrap auf Modellebene (K=10) oder Familienebene (K=7) nicht signifikant, was darauf hindeutet, dass die Feststellung deskriptiv für das spezifische Panel ist und kein universell identifizierter kausaler Effekt.
- Behandelbarkeit: Behandelbarkeits-Proxy-Metriken innerhalb der Benchmarks (z. B. Multi-Route vs. Single-Route) identifizieren keinen signifikanten Kontrast (0/3 signifikant). Die Autoren ziehen frühere Behauptungen zurück, dass „die Topologie die Dichotomie steuert".
- Generator-Abhängigkeit: Cross-Family-Generator-Tausch zerstört das Ranking pro Zelle (Spearman $\rho \approx 0,14$ ), während Intra-Family-Tausch dieses bewahrt. Die spezifische Größe von $\Delta$ ist generatorbedingt.
Zurückgehaltene Validierung: Das 11. Modell (qwen2.5-14B) repliziert die Richtung der Partitionierung Fähigkeit $\times$ Behandelbarkeit (3/4 Zellen in Gruppe A positiv), aber nicht die Größe (Mittelwert +1,08 pp vs. +19,69 pp), wahrscheinlich aufgrund der hohen Basiskapazität des zurückgehaltenen Modells und der geringen Empfindlichkeit gegenüber Oberflächenrauschen.
Mechanismusanalyse (Stealth Divergenz): Eine Analyse auf Pfadebene am zurückgehaltenen Modell enthüllt einen Mechanismus der „Stealth Divergenz":
- M3 (Kaskadentiefe): Semantische Störungen kaskadieren 0,17 Schritte tiefer als Präsentationsstörungen ( $p = 2,5 \times 10^{-14}$ ).
- M4 (Gedankenähnlichkeit): Semantische Störungen lassen die erste Aktion intakt, korruptieren jedoch den Inhalt der Zwischengedanken ab Schritt 2, mit einer Ähnlichkeitslücke pro Schritt von -5,6 bis -10,5 pp.
- Rücknahmen: Zwei frühere Mechanismusbehauptungen werden explizit zurückgenommen: M1 (semantische Störungen divergieren früher) und M2 (semantische Störungen korrigieren sich seltener selbst) ließen sich am zurückgehaltenen Modell nicht replizieren.

Bedeutung und Behauptungen
Der Beitrag positioniert sich primär als Beitrag zur Messung. Er dokumentiert ein robustes empirisches Phänomen, bei dem LLM-Agenten im mehrstufigen Schlussfolgern eine systematisch unterschiedliche Empfindlichkeit gegenüber semantischem versus Oberflächenrauschen aufweisen.

Ingenieurtechnische Implikation: Die Ergebnisse legen nahe, dass Eingabenormalisierungsstrategien die Behandlung bedeutungstragender Störungen (Umformulierungen, Synonyme) gegenüber Präsentationsrauschen priorisieren sollten, da erstere höhere Inkonsistenzraten verursachen.
Methodologischer Beitrag: Die Studie liefert einen rigorosen Rahmen zur Messung der Störungsempfindlichkeit in Agenten, einschließlich Schwereanpassung, Kaskadenanalyse auf Pfadebene und ehrlicher Berichterstattung über nicht replizierbare Mechanismusbehauptungen (M1, M2).
Einschränkungen: Die Autoren betonen, dass die Regressionskoeffizienten einer strengen Inferenz in kleinen Clustern (Wild-Bootstrap) nicht standhalten, was bedeutet, dass die Ergebnisse deskriptive Assoziationen für das getestete Panel darstellen und keine identifizierten kausalen Effekte. Das Diagnosewerkzeug (AgentDiff-Probe v2) ist ein Prototyp, dessen Genauigkeit bei der Vorhersage des Vorzeichens mit der trivialen Baseline übereinstimmt, und die Autoren warnen davor, es als alleiniges Gate für den Produktionseinsatz zu verwenden.

Die Arbeit verzichtet ausdrücklich auf Behauptungen zur Cross-Family-Generalisierung der spezifischen Lückengröße und zieht frühere Behauptungen zur linearen Monotonie in Bezug auf die Fähigkeit zurück, und rahmt die Beziehung als binäres Gate auf behandelbaren Benchmarks neu. Alle Codes, Daten und Skripte wurden zur Überprüfung veröffentlicht.