🤖 machine learning

NoisyCoconut: Counterfactual Consensus via Latent Space Reasoning

NoisyCoconut ist eine Methode zur Inferenzzeit ohne Nachtraining, die die Zuverlässigkeit großer Sprachmodelle verbessert, indem sie kontrolliertes Rauschen in latente Trajektorien injiziert, um diverse Denkpfade zu erzeugen, deren Konsens eine selektive Enthaltung ermöglicht und die Fehlerraten bei Denkaufgaben erheblich reduziert.

Ursprüngliche Autoren: Michael Jerge, David Evans

Veröffentlicht 2026-05-12

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Michael Jerge, David Evans

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr intelligenten, aber manchmal übermütigen Roboter-Assistenten. Wenn Sie ihn nach einer schwierigen Matheaufgabe fragen, liefert er Ihnen meist sofort eine Antwort. Manchmal rät er jedoch einfach, ohne sich dessen bewusst zu sein. Dies wird als „Halluzination" bezeichnet und ist gefährlich, wenn die Antwort zu 100 % korrekt sein muss.

Die Arbeit stellt einen neuen Trick namens NoisyCoconut vor. Es ist eine Methode, um diesen Roboter zuverlässiger zu machen, ohne ihn neu zu trainieren oder ihm Neues beizubringen. Denken Sie daran als an ein System für eine „zweite Meinung", das im Inneren des Roboterhirns stattfindet, nicht in seinen gesprochenen Worten.

Hier ist die Funktionsweise, erläutert mit einfachen Analogien:

1. Das Problem: Das „Selbstvertrauen" des Roboters ist eine Lüge

Normalerweise wählt ein Roboter, wenn er eine Frage beantwortet, das wahrscheinlichste Wort für den nächsten Schritt aus. Nur weil er sich bei der Wahl der Wörter sicher ist, bedeutet das nicht, dass die Logik stimmt. Es ist wie bei einer Person, die sehr flüssig und selbstbewusst spricht, aber eigentlich eine erfundene Geschichte erzählt. Die Arbeit besagt, dass wir eine Möglichkeit brauchen, um zu erkennen, wann der Roboter tatsächlich unsicher ist.

2. Die Lösung: Das „Was-wäre-wenn"-Spiel

Anstatt den Roboter nur einmal antworten zu lassen, bittet NoisyCoconut ihn, dieselbe Frage fünf Mal zu beantworten, jedoch mit einem Dreh.

Der Dreh (Rauscheinspeisung): Bevor der Roboter für jeden der fünf Versuche zu denken beginnt, geben die Forscher seinem inneren „Gehirn" (seinem versteckten Zustand) einen winzigen, kontrollierten Schubs. Stellen Sie sich vor, Sie versuchen, ein Puzzle zu lösen. Wenn Sie den Tisch leicht wackeln lassen, bewegen sich Ihre Hände vielleicht ein wenig anders, und Sie versuchen einen leicht anderen Ansatz für das Puzzle.
Das Ergebnis: Aufgrund dieser winzigen Schubs generiert der Roboter fünf leicht unterschiedliche „Gedankenpfade". Es ist, als würden Sie fünf verschiedene Versionen derselben Person bitten, das Puzzle zu lösen, wobei jede Version eine leicht unterschiedliche Perspektive hat.

3. Die Magie: Nach Übereinstimmung suchen

Nun betrachten die Forscher die fünf Antworten, die der Roboter gegeben hat:

Szenario A (Einstimmigkeit): Alle fünf Versionen des Roboters kommen auf exakt dieselbe Antwort.
- Die Metapher: Es ist, als würden Sie fünf verschiedene Experten bitten, eine Matheaufgabe zu lösen, und alle schreiben „42" auf ihre eigenen Zettel. Sie können sehr zuversichtlich sein, dass „42" korrekt ist.
Szenario B (Uneinigkeit): Drei sagen „42", einer sagt „43" und einer sagt „100".
- Die Metapher: Die Experten streiten. Das zeigt Ihnen, dass der Roboter verwirrt ist oder das Problem ihm im Moment zu schwer ist.

4. Das Sicherheitsnetz: „Enthaltung"

Dies ist der wichtigste Teil. NoisyCoconut hat eine Regel: Wenn die fünf Versionen nicht übereinstimmen, schweigt der Roboter.

Anstatt eine falsche Antwort zu geben, sagt er: „Ich weiß es nicht."
Die Arbeit zeigt, dass der Roboter, wenn er doch spricht, weil alle fünf Versionen übereinstimmten, bei Matheaufgaben zu 95 % der Zeit recht hat.
Ohne diesen Trick könnte der Roboter nur zu 60–70 % der Zeit recht haben, würde aber alles beantworten, einschließlich der falschen Vermutungen.

5. Warum dies besonders ist

Kein Neulernen: Sie müssen dem Roboter nichts Neues beibringen. Sie ändern nur, wie er für einen Moment denkt, während er arbeitet.
Intern vs. Extern: Die meisten anderen Methoden bitten den Roboter, mit sich selbst zu sprechen oder viele verschiedene Sätze zu generieren, um zu sehen, welcher der beste ist. NoisyCoconut schüttelt die internen Gehirnzustände, bevor der Roboter überhaupt zu sprechen beginnt. Es ist wie das Überprüfen des Fundaments eines Gebäudes, bevor Sie die Wände streichen.
Der Kompromiss: Der Roboter wird weniger Fragen beantworten (geringere Abdeckung), weil er schweigt, wenn er unsicher ist. Aber die Fragen, die er tatsächlich beantwortet, sind viel genauer.

Zusammenfassung

NoisyCoconut ist wie ein Qualitätskontrolleur für das Gehirn eines Roboters. Es zwingt den Roboter, dasselbe Problem durch fünf leicht unterschiedliche „Linsen" laufen zu lassen. Wenn alle fünf Linsen dasselbe Bild zeigen, ist der Roboter zuversichtlich und gibt die Antwort. Wenn die Bilder unscharf oder unterschiedlich sind, gibt der Roboter zu, dass er unsicher ist, und weigert sich zu raten. Dies macht den Roboter in wichtigen Situationen viel sicherer zu verwenden, auch wenn er insgesamt weniger Fragen beantwortet.

Technische Zusammenfassung: NoisyCoconut: Counterfactual Consensus via Latent Space Reasoning

Problemstellung

Large Language Models (LLMs) werden zunehmend in hochriskanten Umgebungen eingesetzt, verfügen jedoch über keine inhärenten Mechanismen, um Unsicherheit zu signalisieren, und produzieren oft selbstsichere, aber fehlerhafte Ausgaben (Halluzinationen). Während selektive Vorhersage – die es Modellen erlaubt, bei Unsicherheit von einer Antwort abzusehen – eine etablierte Strategie zur Verbesserung der Zuverlässigkeit bei Klassifikationsaufgaben ist, ist ihre Anwendung auf generative LLMs schwierig. Token-Level-Wahrscheinlichkeiten spiegeln oft linguistische Unsicherheit statt faktischer Korrektheit wider, und bestehende Methoden zur Inferenzzeit (z. B. Selbstkonsistenz durch Token-Sampling) sind auf die Vielfalt der oberflächlichen Token-Verteilung beschränkt. Darüber hinaus erfordern Methoden des latenten Raum-Reasonings, die direkt auf kontinuierlichen versteckten Zuständen operieren, typischerweise spezialisiertes Training und verfügen nicht über eingebaute Mechanismen zur Schätzung der Konfidenz.

Methodik

Die Arbeit stellt NoisyCoconut vor, eine trainingsfreie Methode zur Inferenzzeit, die die Zuverlässigkeit von LLMs durch Manipulation interner Repräsentationen im kontinuierlichen latenten Raum verbessert. Aufbauend auf dem Framework Continuous Chain-of-Thought (Coconut) (Hao et al., 2025), das Reasoning ermöglicht, indem der letzte versteckte Zustand als nächstes Eingabe-Embedding zurückgespeist wird, unterscheidet sich NoisyCoconut dadurch, dass es sich auf die Konfidenzbewertung konzentriert, anstatt Modelle zu trainieren, im latenten Raum zu reasoning.

Der Kernmechanismus umfasst die kontrollierte Rauscheinspeisung in die latenten Trajektorien eines vortrainierten Modells:

Rauscheinspeisung: Für eine gegebene Eingabeabfrage generiert die Methode mehrere Reasoning-Pfade ( $K$ ), indem sie während des Vorwärtsdurchlaufs unabhängiges Gaußsches Rauschen ( $\eta_t$ ) in die versteckten Zustände injiziert. Die Rauschskala $\sigma_t$ nimmt über die Zeitschritte exponentiell ab und wird adaptiv basierend auf der Norm des versteckten Zustands skaliert, um eine sinnvolle Divergenz bei gleichzeitiger Wahrung der Kohärenz sicherzustellen.
Pfadexploration: Diese Störung induziert eine Verzweigung in alternative Reasoning-Trajektorien innerhalb des kontinuierlichen Repräsentationsraums und erkundet effektiv verschiedene Regionen des Lösungsraums, ohne intermediate Tokens zu generieren.
Aggregation und Abstinenz: Die Ausgaben der $K$ Pfade werden aggregiert. Das System verwendet eine Mehrheitsentscheidungsstrategie, um einen Konsensoutput zu bestimmen. Entscheidend ist, dass das System abstinent (bezeichnet als $\perp$ ) agieren kann, wenn die Übereinstimmung zwischen den Pfaden unter einen bestimmten Schwellenwert fällt (z. B. eine einstimmige Übereinstimmung von 5/5 erforderlich ist).
Konfidenzsignal: Der Grad der Übereinstimmung zwischen den rauschgestörten Pfaden dient als Proxy für die Vorhersagekonfidenz. Eine hohe Übereinstimmung zeigt an, dass sich das Modell in einem stabilen „Attraktorbecken" befindet, in dem die Lösung gegenüber Störungen robust ist, während eine geringe Übereinstimmung auf Repräsentationsinstabilität und hohe Unsicherheit hindeutet.

Hauptbeiträge

Die Autoren leisten vier primäre Beiträge:

NoisyCoconut-Framework: Eine neuartige, trainingsfreie Inferenzzeit-Methode, die diverse Reasoning-Pfade durch kontrollierte Rauscheinspeisung im kontinuierlichen latenten Raum generiert und eine konsensbasierte Konfidenzschätzung direkt auf versteckten Zuständen ermöglicht.
Validierung der Pfadübereinstimmung: Empirischer Nachweis, dass Pfadübereinstimmung einen zuverlässigen Proxy für die Vorhersagekonfidenz darstellt und effektive Trade-offs zwischen Abdeckung und Genauigkeit ermöglicht.
Charakterisierung der Rausch-Genauigkeits-Beziehung: Analyse, die ein konsistentes sigmoides Degradationsmuster der Modellgenauigkeit bei steigenden Rauschskalen zeigt und bestätigt, dass Rauscheinspeisung vorhersehbare und ausnutzbare Effekte über verschiedene Architekturen hinweg erzeugt.
Benchmark-Leistung: Nachweis, dass NoisyCoconut signifikante Trade-offs zwischen Abdeckung und Genauigkeit über drei Reasoning-Benchmarks (GSM8K, GSM-Symbolic, MMLU) und fünf verschiedene Sprachmodelle (einschließlich Varianten von Qwen, Llama, Mixtral und DeepSeek) hinweg erzielt, ohne Zugriff auf Trainingsdaten oder Parametermodifikation zu erfordern.

Ergebnisse

Experimente an fünf Sprachmodellen und drei Benchmarks ergeben folgende Erkenntnisse:

Fehlerreduktion: Einstimmige Übereinstimmung (5/5) zwischen rauschgestörten Pfaden reduziert die Fehlerraten von einer Baseline von 40–70 % auf unter 15 %.
Hohe Genauigkeit durch Abstinenz: Durch selektives Absehen von Vorhersagen mit geringer Konfidenz (bei niedriger Pfadübereinstimmung) erreichen Modelle über 95 % Genauigkeit bei mathematischen Reasoning-Aufgaben (z. B. GSM8K). Beispielsweise verbesserte sich das Modell DeepSeek-R1-Distill-Qwen-7B von einer Baseline von 62,0 % auf 95,2 % beim Schwellenwert der einstimmigen Übereinstimmung, wenn auch mit reduzierter Abdeckung (31,4 %).
Ausgleichender Effekt: Schwächere Baseline-Modelle zeigen unter Filterung mit hoher Übereinstimmung die größten absoluten Genauigkeitsverbesserungen, was darauf hindeutet, dass NoisyCoconut schwächeren Modellen helfen kann, auf der Teilmenge von Fragen, bei denen sie hohe Konfidenz zeigen, die Zuverlässigkeit stärkerer Gegenstücke zu erreichen.
Rauschempfindlichkeit: Eine systematische Evaluation ergab eine konsistente sigmoidale Abnahme der Genauigkeit bei steigenden Rauschskalen, mit $R^2 \ge 0,94$ Anpassungen über alle Modelle hinweg, was einen Phasenübergang im Modellverhalten von robustem Reasoning zu nahezu zufälliger Leistung anzeigt.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass NoisyCoconut einen praktischen Weg zur Verbesserung der LLM-Zuverlässigkeit ohne die Rechenkosten des Neutrainings oder Fine-Tunings bietet. Durch die Erweiterung der konsensbasierten Konfidenzschätzung auf den latenten Raum nutzt die Methode den kontinuierlichen Repräsentationsraum, um Unsicherheiten aufzudecken, die in Token-Level-Verteilungen nicht sichtbar sind.

Die Autoren gehen davon aus, dass die Korrelation zwischen Pfadübereinstimmung und Korrektheit darauf hindeutet, dass Unsicherheit in LLMs im latenten Raum sichtbar ist. Wenn Rauschstörpfungen zu divergierenden Pfaden führen, operiert das Modell wahrscheinlich in einem Bereich repräsentativer Instabilität; umgekehrt deutet eine Konvergenz auf dieselbe Antwort auf eine stabile, gegenüber Störungen robuste Lösung hin. Dieser Ansatz ermöglicht den Einsatz von LLMs in regulierten Sektoren, in denen Genauigkeit und Auditierbarkeit kritisch sind, und bietet einen Mechanismus, um Abdeckung gegen hochkonfidente Genauigkeit zu tauschen.

Die Arbeit erkennt Einschränkungen an, darunter die Notwendigkeit des Zugriffs auf interne Modellzustände (was die Anwendbarkeit auf Modelle mit offenen Gewichten beschränkt), den aktuellen Fokus auf Aufgaben mit diskreten oder klar definierten Antworten sowie den Rechenaufwand zur Generierung mehrerer Pfade. Sie formuliert diese jedoch als Chancen für zukünftige Arbeiten in den Bereichen adaptive Rauschskalierung, semantische Aggregation für offene Generierung und Integration mit spekulativem Decoding zur Kostensenkung.