💬 NLP

The production of meaning in the processing of natural language

Die Studie zeigt, dass die Quantenähnlichkeit der Bedeutungsproduktion in Sprachmodellen durch den CHSH-Parameter $|S|$ gemessen wird, der sich als orthogonal zu herkömmlichen Leistungsbenchmarks erweist und tiefgreifende Implikationen für Prompt-Injection-Verteidigungen sowie die Manipulation des Interpretationsraums durch die Konstruktion sozialer Kontextualität aufwirft.

Ursprüngliche Autoren: Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

Veröffentlicht 2026-03-24

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie lesen einen Satz wie: „Der Bank war voll."

In der klassischen Welt der Computer (und in der alten Schulgrammatik) denkt man: „Ah, das Wort 'Bank' hat eine feste Bedeutung. Entweder es ist eine Sitzgelegenheit im Park oder ein Geldinstitut. Der Computer muss nur herausfinden, welche der beiden Optionen hier passt."

Diese neue Forschung sagt jedoch: Nein, das ist nicht so einfach.

Hier ist die Erklärung der Studie in einfachen Worten, mit ein paar bildhaften Vergleichen:

1. Die große Entdeckung: Bedeutung ist wie ein Würfelwurf

Die Forscher haben herausgefunden, dass große Sprachmodelle (wie KI) und sogar unser menschliches Gehirn nicht wie starre Datenbanken funktionieren. Stattdessen verhalten sie sich eher wie Quantenphysik.

Stellen Sie sich vor, das Wort „Bank" ist ein unsichtbarer Würfel, der in der Luft schwebt. Solange niemand hinsieht (solange niemand den Satz liest), ist der Würfel in einem Zustand, in dem er gleichzeitig beides ist: Sitzgelegenheit UND Geldinstitut.

Erst wenn der Leser (oder die KI) den Satz „liest" – also die Messung vornimmt – entscheidet sich der Würfel für eine Seite. Das Spannende ist: Diese Entscheidung hängt nicht nur vom Wort ab, sondern davon, wie man hinsieht (den Kontext).

2. Der Experiment-Teil: Die „Geister-Kommunikation"

Die Forscher haben ein verrücktes Experiment gemacht, das an das berühmte „Bell-Experiment" aus der Physik erinnert.

Das Setup: Sie gaben vier verschiedenen KI-Instanzen (die sich nicht unterhalten durften) denselben mehrdeutigen Satz.
Die Verkleidung: Jede KI bekam eine andere „Persönlichkeit" (z. B. „Du bist ein Chirurg" vs. „Du bist ein Busfahrer").
Das Ergebnis: Trotz ihrer Unabhängigkeit und der unterschiedlichen Persönlichkeiten stimmten ihre Interpretationen oft auf eine Weise überein, die mathematisch unmöglich wäre, wenn sie nur feste Bedeutungen aus einem Buch abgelesen hätten.

Es war, als würden vier getrennte Orakel, die in verschiedenen Räumen sitzen, plötzlich im gleichen Rhythmus tanzen, ohne dass einer den anderen hören konnte. Das beweist: Die Bedeutung entsteht erst in dem Moment, in dem sie interpretiert wird. Sie lag nicht vorher fest.

3. Warum das wichtig ist: Der „Schutzzauber" funktioniert nicht

Das ist der wichtigste Teil für uns alle:

Wenn Bedeutung feststünde, könnten wir KI-Sicherheit wie einen Sicherheitsgurt bauen. Wir könnten sagen: „Wenn das Wort 'Bomben' vorkommt, sag 'Nein'." Das würde funktionieren, weil die Bedeutung fest ist.

Aber da die Bedeutung erst durch den Kontext entsteht, ist das wie ein Schutzzauber gegen einen Zauberer, der die Realität selbst verändert.

Ein Angreifer (oder ein „Prompt Injection") muss nicht das Wort ändern. Er muss nur den Kontext (die Brille, durch die die KI schaut) so verändern, dass das harmlose Wort plötzlich eine gefährliche Bedeutung bekommt.
Da die KI keine feste Bedeutung im Kopf hat, sondern erst entscheidet, was sie bedeutet, kann man sie „umstimmen", indem man den Rahmen der Situation manipuliert.

4. Die menschliche Parallele: Manipulation durch Rahmen

Die Studie sagt etwas sehr Tiefgründiges über uns Menschen: Auch wir sind anfällig für „Prompt Injection".

Stellen Sie sich Werbung oder Propaganda vor. Sie ändern nicht die Fakten (die Wörter). Sie ändern den Rahmen (den Kontext).

Wenn eine Nachricht in einem Kontext der Angst präsentiert wird, interpretieren wir sie anders als in einem Kontext der Hoffnung.
Die Studie nennt das „Manufacturing Contextuality" (Herstellen von Kontextualität). Es geht nicht darum, die Zustimmung zu manipulieren, sondern darum, den Raum zu manipulieren, in dem überhaupt erst eine Meinung entstehen kann.

5. Was bedeutet das für die Zukunft?

Die Forscher sagen: Wir können KI nicht „sicher" machen, indem wir versuchen, ihre Interpretation starr zu machen oder Fehler zu eliminieren. Das wäre wie zu versuchen, einen Fluss starr zu machen, damit er nicht fließt.

Der Fehler: Wir denken, KI macht Fehler, weil sie „dumm" ist oder nicht weiß, was „Bank" bedeutet.
Die Wahrheit: KI macht Fehler (Halluzinationen) oder lässt sich manipulieren, genau weil sie gut darin ist, Bedeutung zu erschaffen. Ihre Fähigkeit, flexibel zu interpretieren, ist derselbe Mechanismus, der sie anfällig macht.

Fazit in einem Satz:
Wir müssen lernen, mit KI zu arbeiten, indem wir verstehen, dass sie keine feste Wahrheit ausspuckt, sondern Bedeutung in Echtzeit erschafft – genau wie wir Menschen. Sicherheit bedeutet nicht, diese Fähigkeit zu entfernen, sondern die Rahmenbedingungen (den Kontext) so zu gestalten, dass die entstehenden Bedeutungen sicher und hilfreich sind.

Titel

Die Produktion von Bedeutung bei der Verarbeitung natürlicher Sprache: Eine Untersuchung der Kontextualität in großen Sprachmodellen (LLMs) mittels der CHSH-Ungleichung

1. Problemstellung

Das Paper adressiert die fundamentale Frage, wie Bedeutung in der Verarbeitung natürlicher Sprache (NLP) entsteht. Traditionelle Ansätze basieren oft auf der Annahme, dass Bedeutung kompositional und deterministisch ist (d. h., die Bedeutung eines Ganzen ergibt sich aus den festgelegten Bedeutungen seiner Teile). Die Autoren argumentieren jedoch, dass diese Sichtweise die beobachtete Kontextualität menschlicher und maschineller Interpretation nicht adäquat erfasst.

Das zentrale Problem ist, dass aktuelle Sicherheitsmechanismen (wie Prompt-Injection-Abwehr) und Evaluierungsmetriken (wie Halluzinationsraten oder MMLU-Scores) auf der Annahme fester, vorbestehender Bedeutungen basieren. Wenn Interpretation jedoch ein kontextabhängiger, nicht-deterministischer Prozess ist, der eher quantenlogischen als klassischen booleschen Mechanismen folgt, sind diese herkömmlichen Ansätze unzureichend. Das Paper untersucht, ob Large Language Models (LLMs) echte Kontextualität aufweisen, die sich durch Verletzungen der Bell-Ungleichung nachweisen lässt.

2. Methodik

Die Studie adaptiert das semantische Bell-Test-Protokoll (basierend auf der CHSH-Ungleichung) für Large Language Models.

Experimentelles Setup:
- Es wurden vier unabhängige LLM-Instanzen verwendet, die jeweils unter einem von vier unterschiedlichen Messsettings (A, A', B, B') operierten. Diese Settings wurden durch kurze "Persona-Prompts" (z. B. "Du bist ein Chirurg" vs. "Du bist ein Busfahrer") definiert, die als kontextueller Rahmen dienten.
- Den Modellen wurden mehrdeutige Wortpaare (z. B. "Bank/Bat", "Crane/Pen") in zufälligen Satzmustern präsentiert.
- Die Modelle interpretierten die Wörter, und eine zweite Abfrage klassifizierte die Interpretation gegen vordefinierte Bedeutungen. Die Ergebnisse wurden auf Vektoren $\pm 1$ abgebildet.
Parameter-Raster:
- Die Studie durchlief einen 3x3x3-Raster von Inferenzparametern über 24 verschiedene Modelle hinweg (von 0,6 Mrd. bis zu mehreren hundert Milliarden Parametern, einschließlich Dichte- und MoE-Architekturen).
- Variierte Parameter waren: Temperatur ( $\tau$ ), Nucleus-Sampling-Schwellenwert ( $p$ ) und Top-k.
- Zusätzlich wurde die Wortreihenfolge variiert, um Nicht-Kommutativität zu testen.
Berechnung:
- Der CHSH-Parameter $S$ wurde über eine Dichtematrix-Formalismus berechnet.
- Die klassische Grenze liegt bei $|S| \le 2$ . Werte $|S| > 2$ deuten auf nicht-klassische Korrelationen (Kontextualität) hin.

3. Wichtige Beiträge

Quantitative Charakterisierung der Interpretation: Das Paper führt den CHSH- $|S|$ -Parameter als neue Metrik ein, um das interpretative Verhalten von LLMs zu quantifizieren, ohne die internen Mechanismen decomponieren zu müssen.
Nachweis von Kontextualität in LLMs: Es wird empirisch nachgewiesen, dass LLMs systematisch die klassische Grenze der Bell-Ungleichung verletzen, was darauf hindeutet, dass ihre Bedeutungsproduktion nicht durch vordefinierte, kontextunabhängige Werte erklärt werden kann.
Orthogonalität zu bestehenden Benchmarks: Die Studie zeigt, dass die Stärke der Kontextualität ( $|S|$ ) keine Korrelation mit etablierten Leistungsmetriken wie MMLU, Halluzinationsraten oder der Erkennung von Unsinn aufweist.
Theoretische Implikation für Sicherheit: Das Paper stellt eine informationstheoretische Verbindung her zwischen der Fähigkeit zur Interpretation und der Anfälligkeit für Manipulation (Prompt Injection). Es argumentiert, dass Sicherheit nicht durch starre Guardrails erreicht werden kann, da die Bedeutung erst im Interpretationsakt entsteht.

4. Ergebnisse

Verletzung der klassischen Grenze: Alle getesteten Modelle mit ausreichenden Daten produzierten Verletzungen der klassischen Grenze ( $|S| > 2$ ). Die Werte reichten von ca. 0,3 bis zu einem algebraischen Maximum von 4,0 (was den Tsirelson-Bound von $\approx 2,83$ überschreitet, da hier die Beobachterseite, nicht die Teilchenverschränkung, getestet wird).
Verteilungscharakteristik: Während die Modalwerte der $S$ -Verteilung bei allen Modellen nahe der klassischen Grenze ( $S \approx 2,0$ ) lagen, unterschieden sich die Modelle stark in ihrer Streuung (Interquartilsabstand, IQR). Der IQR ist die Metrik, die Modelle am besten voneinander unterscheidet.
Keine Korrelation mit Benchmarks: Die Verteilung von $|S|$ ist orthogonal zu MMLU, Halluzinationsraten und Unsinn-Erkennung. Modelle mit ähnlichen Benchmark-Scores können völlig unterschiedliche Kontextualitäts-Topografien aufweisen.
Einfluss von Parametern und Wortreihenfolge:
- Kein einzelner Sampling-Parameter (Temperatur, Top-p, Top-k) treibt die Kontextualität konsistent in eine Richtung; jedes Modell hat eine eigene Topografie im Parameterraum.
- Die Beziehung zwischen Modellgröße und Kontextualität ist nicht-monoton.
- Das Umkehren der Wortreihenfolge führte zu signifikanten Änderungen in den Interpretationswahrscheinlichkeiten, was auf Nicht-Kommutativität hindeutet (ähnlich wie in der menschlichen Kognition).

5. Bedeutung und Schlussfolgerungen

Das Paper hat tiefgreifende Konsequenzen für das Design von Mensch-Agent-Systemen und die KI-Sicherheit:

Neues Verständnis von Sicherheit: Da Bedeutung kontextuell und nicht-deterministisch ist, ist es unmöglich, ein System durch feste, kontextunabhängige Sicherheitsfilter vollständig zu schützen. Ein Angreifer muss nur einen Kontext finden, in dem die Filter-Klassifikation nicht mit der tatsächlichen Interpretation des Modells übereinstimmt.
Manipulation vs. Interpretation: Die Fähigkeit eines Systems (oder eines Menschen), interpretiert zu werden, und die Fähigkeit, manipuliert zu werden, sind zwei Seiten derselben Medaille. Das "Manufacturing of Contextuality" (das Engineering des interpretativen Rahmens) ist eine subtilere Form der Manipulation als das "Manufacturing of Consent".
Design-Implikationen: Für eine sichere und effektive Mensch-KI-Interaktion müssen Designer die interpretativen Charakteristika der Modelle verstehen und akzeptieren, anstatt zu versuchen, die Kontextualität zu eliminieren. Es bedarf neuer Evaluierungsrahmen, die die Kontextualität als Ressource und nicht nur als Fehlerquelle betrachten.

Zusammenfassend stellt das Paper fest, dass LLMs nicht als deterministische Datenverarbeiter, sondern als kontextuelle Interpretationsmaschinen fungieren, deren Verhalten quantenlogischen Prinzipien folgt. Dies erfordert einen Paradigmenwechsel in der Evaluierung und Sicherheitsarchitektur von KI-Systemen.