💬 NLP

Semantic Content Determines Algorithmic Performance

Das Paper führt „WhatCounts“ ein, einen atomaren Benchmark, der zeigt, dass Frontière-LLMs daran scheitern, wahrhaft invariante Algorithmen zu implementieren, da ihre Leistung bei einfachen Zählaufgaben allein basierend auf dem semantischen Inhalt der gezählten Objekte unvorhersehbar um über 40 % variiert, was verborgene, eingabebedingte Bias offenlegt, die über die bloße Komplexität des Schlussfolgerns hinausgehen.

Ursprüngliche Autoren: Martiño Ríos-García, Nawaf Alampara, Kevin Maik Jablonka

Veröffentlicht 2026-01-30

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Martiño Ríos-García, Nawaf Alampara, Kevin Maik Jablonka

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr intelligenten Roboter-Assistenten. Sie geben ihm eine einfache Aufgabe: „Zähle, wie viele Gegenstände in dieser Liste sind.“

In der Welt der Computer ist ein echter „Algorithmus“ (eine Anweisung) wie ein perfekter, blinder Roboter. Wenn Sie ihm eine Liste mit 5 Äpfeln geben, zählt er 5. Wenn Sie ihm eine Liste mit 5 Steinen geben, zählt er ebenfalls 5. Dem Roboter ist es egal, was er zählt; es geht ihm nur darum, wie viele Dinge dort sind. Die Bedeutung der Gegenstände sollte das Ergebnis nicht verändern.

Dieses Paper mit dem Titel „Semantic Content Determines Algorithmic Performance“ enthüllt eine überraschende und leicht peinliche Wahrheit über die fortschrittlichsten KI-Modelle (Large Language Models oder LLMs), die wir heute haben: Sie sind keine perfekten blinden Roboter. Sie reagieren tatsächlich sehr empfindlich darauf, was sie zählen.

Hier ist eine Aufschlüsselung ihrer Erkenntnisse unter Verwendung einfacher Analogien:

1. Der „WhatCounts“-Test

Die Forscher entwickelten einen super-einfachen Test namens WhatCounts.

Das Setup: Sie gaben der KI eine Liste von Gegenständen, die durch Pipes (wie |) getrennt waren.
Die Regel: Die Liste enthielt keine Tricks. Keine Duplikate, keine verwirrenden Wörter, keine „Ablenker“. Nur eine saubere Liste von 10 Gegenständen.
Die Variable: Sie änderten, was die Gegenstände waren. Manchmal waren es 10 Städte, manchmal 10 Chemikalien, manchmal 10 Namen und manchmal 10 Emojis.

Das Ergebnis: Die Genauigkeit der KI schwankte stark, je nachdem, um welche Art von Gegenstand es sich handelte.

Wenn die Liste aus Städten bestand, traf die KI die Angabe vielleicht 95 % der Zeit zu.
Wenn die Liste aus Chemikalien bestand, traf dieselbe KI die Angabe vielleicht nur 50 % der Zeit zu.
Die Lücke: In einigen Fällen betrug der Unterschied in der Genauigkeit über 40 %.

Die Analogie: Stellen Sie sich einen Kassierer vor, der sehr gut darin ist, Äpfel zu zählen, aber irgendwie den Überblick verliert, wenn man ihm Orangen reicht, obwohl die Aufgabe exakt dieselbe ist. Der Kassierer ist nicht schlecht in Mathe; er ist einfach seltsam voreingenommen durch die Art der Frucht.

2. Es ist kein „Zählproblem“

Die Forscher wollten wissen, warum das passierte. Sie führten mehrere Experimente durch, um gängige Ausreden auszuschließen:

Liegt es daran, dass einige Wörter länger sind? (Token-Anzahl)
- Test: Sie stellten sicher, dass jede Liste die exakt gleiche Anzahl an „Tokens“ (Computer-Wörtern) hatte, selbst wenn die Gegenstände unterschiedlich waren.
- Ergebnis: Die Voreingenommenheit blieb bestehen. Es lag nicht an der Länge.
Liegt es daran, dass die KI nicht sieht, wo ein Gegenstand aufhört und der nächste anfängt? (Identifikation)
- Test: Sie baten die KI, jeden Gegenstand in XML-Tags einzuschließen (wie <item>Stadt</item>), anstatt sie zu zählen.
- Ergebnis: Die KI war exzellent darin, die Gegenstände zu identifizieren. Sie wusste genau, wo die Städte und Chemikalien anfingen und aufhörten. Das Problem war nicht das Sehen der Gegenstände; es war das Zählen der sie.
Liegt es daran, dass die KI „stärker nachdenken“ muss? (Schlussfolgerung/Reasoning)
- Test: Sie zwangen die KI dazu, mehr „Denkaufwand“ zu betreiben (denken Sie an das schrittweise Vorgehen).
- Ergebnis: Überraschenderweise behob das intensivere Nachdenken das Problem nicht. Tatsächlich machte das intensivere Nachdenken bei den klügsten Modellen die Lücke zwischen „einfachen“ und „schweren“ Gegenständen manchmal sogar noch größer.

3. Die „instabile“ Natur der Voreingenommenheit

Die Forscher untersuchten auch, wie diese Modelle trainiert werden. Sie fanden heraus, dass die Voreingenommenheit unvorhersehbar ist.

Wenn man zwei fast identische Modelle nimmt, die auf leicht unterschiedlichen Daten trainiert wurden, kann eines sehr gut im Zählen von Chemikalien sein, aber schlecht im Zählen von Namen.
Das andere Modell könnte genau das Gegenteil sein.
Die Analogie: Es ist wie bei zwei Schülern, die dasselbe Lehrbuch gelernt haben. Schüler A ist gut darin, Matheaufgaben über „Äpfel“ zu lösen, scheitert aber an „Orangen“. Schüler B ist genau das Gegenteil. Man kann nicht vorhersagen, welcher Schüler scheitern wird, indem man nur auf seine allgemeine Note schaut; es hängt völlig vom spezifischen Thema ab.

4. Warum das wichtig ist (Das „Agenten“-Problem)

Das Paper zeigt, dass dies nicht nur ein Trivia-Spiel ist. Diese Modelle werden zunehmend als „Agenten“ eingesetzt, die Aufgaben für uns erledigen, wie das Ausführen von Code oder das Verwalten von Datenbanken.

Das Szenario: Stellen Sie sich einen KI-Agenten vor, der Artikel in einer Liste zählen muss, um ein Paket zu versenden. Er nutzt ein Python-Tool (einen Taschenrechner), um zu helfen.
Das Versagen: Selbst wenn die KI einen Taschenrechner zur Hilfe hat, kommt sie durcheinander, wenn die Gegenstände „Chemikalien“ statt „Städte“ sind.
Die Konsequenz: Wenn ein System darauf angewiesen ist, dass die KI Dinge korrekt zählt, um eine Entscheidung zu treffen (wie „Haben wir genug Zutaten?“), könnte das System scheitern, einfach weil sich die Bedeutung der Wörter geändert hat, nicht weil die Mathematik schwierig war.

Das große Fazit

Das Paper kommt zu dem Schluss, dass LLMs Algorithmen nicht wirklich „implementieren“.

Echter Algorithmus: Eine Regel, die immer gleich funktioniert, egal was man hineingibt. (Wie ein Verkaufsautomat: Münze rein, Cola raus. Es ist egal, ob die Münze ein Euro oder ein Dollar ist; der Automat zählt nur den Wert).
LLM-Verhalten: Sie approximieren (nähern sich an) Algorithmen. Sie betreiben Mustererkennung. Sie haben gelernt, dass das „Zählen von Städten“ in ihren Trainingsdaten meistens auf eine bestimmte Weise aussieht, und das „Zählen von Chemikalien“ sieht anders aus. Sie folgen keiner starren Regel; sie raten basierend auf dem Geschmack der Wörter.

Kurz gesagt: Wenn Sie einen Menschen bitten, 10 Dinge zu zählen, zählt er 10. Wenn Sie eine Top-KI bitten, 10 Dinge zu zählen, kann die Antwort davon abhängen, ob es sich um „Emojis“ oder „Chemikalien“ handelt. Die KI ist kein Taschenrechner; sie ist ein sehr guter Ratender, der durch die Bedeutung der Wörter aus dem Tritt gebracht wird.

Technisches Resümee: Semantischer Inhalt bestimmt die algorithmische Leistung

Problemstellung

Die Arbeit befasst sich mit einer grundlegenden Frage bezüglich der Natur von Large Language Models (LLMs): Implementieren sie Algorithmen oder approximieren sie diese lediglich? Ein Algorithmus sollte per Definition invariant gegenüber dem semantischen Inhalt seiner Argumente sein; das Zählen von zehn Objekten sollte dasselbe Ergebnis liefern, egal ob es sich bei den Objekten um Städte, Chemikalien, Namen oder Emojis handelt. Vorangegangene Arbeiten haben jedoch gezeigt, dass die Leistung von LLMs empfindlich auf die Formulierung des Prompts, die Listenlänge und Tokenisierungsartefakte reagiert. Die Autoren postulieren, dass, wenn LLMs tatsächlich Algorithmen implementieren, ihre Fehler allgemeine Einschränkungen widerspiegeln sollten (z. B. Kontextfenster) und nicht eine systematische Abhängigkeit davon, was gezählt wird. Wenn die Leistung basierend auf der semantischen Klasse variiert, ist das Modell wahrscheinlich eher ein Mustererkennungs-Werkzeug als die Ausführung eines generalisierbaren Verfahrens. Diese Fragilität ist kritisch, da LLMs zunehmend in Produktionspipelines eingesetzt werden, in denen primitive Operatoren (wie das Zählen) als Bausteine für Agenten und komplexe Workflows dienen.

Methodik: WhatCounts

Um die semantische Invarianz von anderen Störfaktoren zu isolieren, führen die Autoren WhatCounts ein, einen atomaren Benchmark, der darauf ausgelegt ist, die Zählleistung isoliert zu testen.

Experimentelles Design: Der Benchmark präsentiert LLMs eindeutige, abgegrenzte Listen, die gültige, nicht-duplizierte Elemente aus einer einzigen semantischen Klasse enthalten. Die Aufgabe besteht strikt darin, die Elemente zu zählen.
Semantische Klassen: Sechs verschiedene Klassen wurden evaluiert: Adressen, Chemikalien, Städte, vollständige Namen von Personen, Telefonnummern und Emojis.
Kontrollen: Die Studie kontrolliert streng für:
- Listenlänge: Variation der Anzahl über spezifische Bereiche (z. B. 7–17, 85–115), um Rundungsfehler zu vermeiden.
- Tokenisierung: Sicherstellung, dass die Listen über alle Klassen hinweg identische Token-Anzahlen aufweisen, um Effekte der Token-Länge auszuschließen.
- Formatierung: Verwendung eines konsistenten Trennzeichens (Pipe |) und Testen der expliziten Erwähnung von Trennzeichen.
- Schlussfolgerung (Reasoning): Testen mit und ohne Chain-of-Thought (CoT) sowie Variation der Intensität des Schlussfolgerns.
Ablationsstudien: Die Autoren führten spezifische Ablationen durch, um zwischen Identifikation (Segmentierung von Elementen) und Aggregation (Zählen dieser Elemente) zu unterscheiden:
- Identifikationstest: Modelle wurden gebeten, Elemente in XML-Tags einzuschließen, anstatt sie zu zählen.
- Aggregationstest: Modelle wurden gebeten, Elemente zu zählen, die bereits in XML-Tags eingeschlossen waren.
- Token-Shuffling: Die Tokens innerhalb jedes Elements wurden vertauscht, um die semantische Bedeutung zu korrumpieren, während die Token-Statistiken erhalten blieben.
Evaluierte Modelle: Vier Frontier-Modelle wurden getestet: o3 (OpenAI), Claude-sonnet-4 (Anthropic), DeepSeek-V3 und Kimi-K2 (Moonshot AI). Zusätzlich wurden feinabgestimmte Varianten von Tulu2-13B, die auf unterschiedlichen Datensätzen (StackExchange, Nectar, HH-RLHF) mittels DPO und PPO trainiert wurden, evaluiert, um den Einfluss des Trainings zu untersuchen.

Kernergebnisse

1. Signifikante semantische Varianz

Frontier-LLMs weisen eine Varianz der Genauigkeit von über 40 % auf, abhängig allein von der semantischen Klasse der gezählten Elemente, trotz identischer Formatierung und Listenlängen.

Semantische Lücke ( $\Delta_{sem}$ ): Definiert als die Differenz zwischen der maximalen und der minimalen Genauigkeit über die semantischen Klassen hinweg für ein gegebenes Modell.
Kontraintuitives Ergebnis: Die Modelle mit der höchsten durchschnittlichen Genauigkeit (z. B. o3) zeigten oft die größten semantischen Lücken, was darauf hindeutet, dass stärkere Modelle nicht zwangsläufig robuster gegenüber semantischer Fragilität sind.

2. Ausschluss oberflächlicher Erklärungen

Die Autoren haben alternative Erklärungen für die Varianz systematisch ausgeschlossen:

Token-Anzahl: Die Kontrolle der Token-Anzahl eliminierte die Lücke nicht; in einigen Fällen erhöhte das Fixieren der Token-Anzahl die semantische Lücke sogar.
Strukturerkennung: Die explizite Erwähnung des Trennzeichens oder das Einbetten von Elementen in XML-Tags beseitigte die Varianz nicht. Modelle konnten Elemente erfolgreich identifizieren und einbetten (hohe Genauigkeit), scheiterten aber beim korrekten Zählen (Fehler in der Aggregation, nicht in der Identifikation).
Schlussfolgerungsaufwand (Reasoning Effort): Eine Erhöhung des Schlussfolgerungsaufwands (z. B. bei o3) verbesserte die Zählgenauigkeit nicht und vergrößerte in einigen Fällen sogar die semantische Lücke.
Token-Shuffling: Das Vertauschen der Tokens innerhalb der Elemente (was die semantische Bedeutung zerstört) veränderte die Leistung signifikant, was darauf hindeutet, dass die Modelle sich auf die semantische Verteilung der Tokens verlassen und nicht rein auf strukturelles Zählen.

3. Instabilität und Trainingseinfluss

Unvorhersehbare Verschiebungen: Das Fine-Tuning von Modellen auf unbezogene Datensätze (z. B. StackExchange vs. Nectar) führte dazu, dass sich die erfolgreichen bzw. scheiternden semantischen Klassen unvorhersehbar verschoben. Dies deutet darauf hin, dass die Fragilität eine Eigenschaft der gelernten Gewichte ist und nicht der Architektur.
Agentische Ausfälle: In einer agentischen Umgebung, in der Modelle ein Python-Ausführungstool zum Zählen von Elementen nutzten, blieb die semantische Lücke bestehen und vergrößerte sich im Vergleich zu den Basismodellen sogar. Dies zeigt, dass die Fragilität auf Tool-Use-Szenarien übergeht und die Annahmen zur Zuverlässigkeit von "Prompt Programming" untergräbt.

Wichtigste Beiträge

WhatCounts Benchmark: Ein minimaler, atomarer Benchmark, der die semantische Invarianz beim Zählen isoliert und frei von Störfaktoren wie Tokenisierungs-Ambiguität oder mehrstufigem Reasoning ist.
Semantische Abhängigkeit von Algorithmen: Empirischer Beleg dafür, dass die Zählgenauigkeit über 40 % zwischen semantischen Klassen variiert, was beweist, dass LLMs keine invarianten Algorithmen implementieren, sondern argumentabhängige Approximationen.
Instabile Fehlermodi: Nachweis, dass sich semantische Biases durch das Fine-Tuning auf unbezogene Daten unvorhersehbar verschieben, was bestätigt, dass die Lücke durch die Modellgewichte getrieben wird.
Downstream-Risiko: Beleg dafür, dass die semantische Fragilität in primitiven Operatoren die Zuverlässigkeit in der Produktion gefährdet, wie der Fall von agentischen Anwendungen zeigt, in denen die Nutzung von Tools die Fehler nicht mildert.

Bedeutung und Behauptungen

Die Arbeit kommt zu dem Schluss, dass LLMs keine Algorithmen implementieren, sondern sie approximieren, und dass diese Approximation argumentabhängig ist. Dies stellt die Annahme des "Prompt Programming" infrage, wonach ein geprompteter Algorithmus wie ein traditioneller Algorithmus agieren sollte (unabhängig von der semantischen Klasse seiner Argumente).

Die Autoren argumentieren, dass wenn selbst das einfachste Primitive (das Zählen) versteckte Abhängigkeiten vom Input-Inhalt aufweist, jede LLM-"Funktion" (Sortieren, Suchen, Extrahieren) ähnliche versteckte Abhängigkeiten besitzen könnte. Dies hat tiefgreifende Auswirkungen auf die Zuverlässigkeit agentischer Pipelines, in denen inhaltsbedingte Ausfälle in Low-Level-Operatoren zu systemweiter Instabilität führen können. Die Arbeit legt nahe, dass aktuelle Evaluationen die Robustheit überschätzen könnten, da sie die semantische Klassen-Varianz nicht berücksichtigen, und dass zukünftige Benchmarks diese Achse isolieren müssen, um die Fähigkeiten von Modellen korrekt zu bewerten.