💬 NLP

System 1&2 Synergy via Dynamic Model Interpolation

Dieses Paper schlägt DAMI vor, ein trainingsfreies Framework, das dynamisch zwischen intuitiven System-1- und deliberativen System-2-Modell-Checkpoints unter Verwendung einer abfragespezifischen Denkintensität interpoliert, um überlegene Genauigkeits-Effizienz-Abwägungen bei mathematischem Denken zu erreichen.

Ursprüngliche Autoren: Chenxu Yang, Qingyi Si, Chong Tian, Xiyu Liu, Dingyu Yao, Chuanyu Qin, Zheng Lin, Weiping Wang, Jiaqi Wang

Veröffentlicht 2026-01-30

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Chenxu Yang, Qingyi Si, Chong Tian, Xiyu Liu, Dingyu Yao, Chuanyu Qin, Zheng Lin, Weiping Wang, Jiaqi Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben zwei verschiedene Versionen eines brillanten Assistenten:

Der „Schnelldenker“ (System 1): Dieser Assistent ist wie ein erfahrener Barista. Er kann einen Kaffee (eine einfache Frage beantworten) in Sekundenschnelle zubereiten. Er ist schnell, effizient und großartig für Routineaufgaben. Aber wenn man ihn bittet, ein komplexes Physikproblem zu lösen, rät er vielleicht nur oder gibt eine oberflächliche Antwort, weil er es nicht gewohnt ist, sich Zeit zu lassen.
Der „Tiefdenker“ (System 2): Dieser Assistent ist wie ein Professor in einer Bibliothek. Er nimmt sich Zeit, schreibt lange Beweise auf, überprüft seine Arbeit und denkt tief nach. Er ist unglaublich genau bei schwierigen Problemen, aber er ist langsam und verbraucht viel Papier (Rechenleistung), selbst bei einfachen Fragen.

Das Problem:
Normalerweise muss man sich für das eine oder das andere entscheiden. Wenn man Geschwindigkeit will, verliert man die Genauigkeit bei schwierigen Aufgaben. Wenn man Genauigkeit will, verschwendet man Zeit und Ressourcen bei einfachen Aufgaben. Jüngste Versuche, dies zu beheben, versuchten, dem „Tiefdenker“ zu sagen, er solle „weniger reden“ oder „kürzer schreiben“ (Output Control). Die Autoren dieses Papers sagen, das sei so, als würde man einem Professor sagen, er solle aufhören zu denken, nur um Papier zu sparen; es unterbricht seinen Denkprozess und führt dazu, dass er scheitert.

Die Lösung: „DAMI“ (Dynamic Model Interpolation)
Die Autoren schlagen einen neuen Weg vor, darüber nachzudenken. Anstatt dem Modell vorzugeben, was es produzieren soll (wie lange es reden soll), ändern sie, wie das Modell denkt.

Sie haben entdeckt, dass der „Schnelldenker“ und der „Tiefdenker“ tatsächlich auf demselben Fundament aufgebaut sind. Wenn man das „Gehirn“ (die mathematischen Gewichte) des Schnelldenkers und des Tiefdenkers miteinander vermischt, erhält man ein glattes Spektrum an Intelligenz.

Die Analogie: Stellen Sie sich einen Dimmer für eine Glühbirne vor.
- 0 % (Aus/Schnell): Das Licht ist einfach der Schnelldenker.
- 100 % (Hell/Tief): Das Licht ist der Tiefdenker.
- 50 % (Mitte): Man erhält eine perfekte Mischung.

Das Paper nennt dies Capability Control (Fähigkeitssteuerung). Anstatt den Satz des Tiefdenkers abzukürzen, drehen wir den „Dimmer“ für einfache Fragen einfach herunter und drehen ihn für schwere Fragen hoch.

Woher weiß das System, wann es umschalten muss?
Das System, genannt DAMI, agiert wie ein kluger Manager, der sich jede Frage ansieht und genau entscheidet, wie viel „Denkleistung“ benötigt wird. Es nutzt zwei Methoden, um diese Entscheidung zu treffen:

Die „Trainer“-Methode (DAMI-Pref): Wenn Sie einige Übungsfragen haben, können Sie ein kleines Helfermodell darauf trainieren, sich eine Frage anzusehen und zu sagen: „Diese hier braucht 80 % tiefes Denken“ oder „Diese hier braucht nur 20 %“. Es lernt durch den Vergleich verschiedener Denkstufen, um zu sehen, welche die richtige Antwort mit dem geringsten Aufwand liefert.
Die „Instinkt“-Methode (DAMI-Conf): Wenn Sie keine Zeit für ein Training haben, schaut das System darauf, wie sicher der Schnelldenker und der Tiefdenker sind. Wenn der Schnelldenker verwirrt ist und der Tiefdenker sich sicher ist, weiß das System, dass es eine schwere Frage ist, und dreht den „Denk-Regler“ hoch. Wenn beide sicher sind, hält das System den Regler niedrig, um Zeit zu sparen.

Die Ergebnisse:
Die Autoren haben dies an mathematischen Problemen getestet, die von einfacher Arithmetik bis hin zu schwierigen Wettbewerbsrätseln reichen.

Geschwindigkeit: Es war viel schneller als der volle „Tiefdenker“, da es keine Zeit damit verschwendet hat, einfache Fragen zu überdenken.
Intelligenz: Es war genauer als der „Schnelldenker“, weil es wusste, wann es langsamer werden und tief nachdenken musste.
Effizienz: Es nutzte signifikant weniger Computerressourcen (Tokens), während es gleichzeitig bessere Ergebnisse erzielte, als wenn man versucht hätte, den Tiefdenker zu kürzeren Antworten zu zwingen.

Zusammenfassend:
Das Paper zeigt, dass man nicht unbedingt eine neue, superkomplexe KI bauen muss, um sowohl schnell als auch intelligent zu sein. Man muss nur zwei bestehende KIs nehmen (eine schnelle und eine kluge), ihre Gehirne miteinander vermischen und einen klugen Schalter verwenden, um die Mischung in Echtzeit anzupassen. Dies schafft ein einziges System, das effizient genug für einen kurzen Chat ist, aber tiefgründig genug, um ein mathematisches Rätsel zu lösen.

Technisches Resümee: Synergie von System 1 & 2 via Dynamischer Modell-Interpolation

Problemstellung

Große Sprachmodelle (LLMs) weisen eine funktionale Dichotomie zwischen „System 1“ (intuitiv, schnell, prägnant) und „System 2“ (deliberativ, langsam, reasoning-intensiv) kognitiven Modi auf. Während System-2-Modelle (z. B. o1, DeepSeek-R1) durch ausgedehnte Chain-of-Thought (CoT) eine überlegene Genauigkeit bei komplexen Aufgaben erreichen, leiden sie unter hohen Rechenkosten und redundanten Ausgaben. Im Gegensatz dazu sind System-1-Modelle effizient, verfügen jedoch nicht über tiefgreifende Denkfähigkeiten.

Die aktuelle Forschung versucht, diese Modi zu vereinheitlichen oder die Effizienz von System 2 primär durch Output-Kontrolle zu optimieren. Diese Methoden beschränken das, was Modelle produzieren, indem sie Token-Budgets begrenzen, Early-Exit-Mechanismen anwenden oder CoT komprimieren. Die Autoren argumentieren, dass dieses Paradigma fehlgeleitet ist: Die Ausgabelänge ist ein Symptom der kognitiven Konfiguration, nicht die Ursache der Ineffizienz. Darüber hinaus bleibt das Training eines einzigen vereinheitlichten Modells, das nahtlos zwischen diesen Modi wechseln kann, aufgrund der „Nullsummen-Natur“ der Trainingsdaten schwierig, bei der der verbose Stil von System 2 mit der Prägnanz von System 1 kollidiert, was zu gegenseitigen Interferenzen während der gemeinsamen Optimierung führt.

Methodik: DAMI (DynAmic Model Interpolation)

Das Paper schlägt einen Paradigmenwechsel von der Output-Kontrolle zur Kapazitäts-Kontrolle vor, wobei moduliert wird, wie Modelle denken, statt dessen, was sie produzieren. Dies wird durch Dynamische Modell-Interpolation erreicht, welche die bestehenden System-1- (Instruct) und System-2- (Thinking) Checkpoints nutzt, ohne die Basismodelle zusätzlich trainieren zu müssen.

1. Theoretische Grundlage

Die Autoren stellen fest, dass die lineare Parameter-Interpolation zwischen Instruct- ( $\Theta^{(I)}$ ) und Thinking-Modellen ( $\Theta^{(T)}$ ) ein vorhersagbares Verhalten liefert, das auf drei empirischen und theoretischen Befunden basiert:

Leistungs-Monotonie: Eine Erhöhung des Interpolationskoeffizienten $\lambda$ (wobei $\lambda=0$ für Instruct und $\lambda=1$ für Thinking steht) erzeugt eine glatte, konvexe Pareto-Front zwischen Genauigkeit und Effizienz. Intermediäre Modelle übertreffen oft beide Endpunkte und erreichen eine höhere Genauigkeit als Instruct mit weniger Token als Thinking.
Repräsentations-Kontinuität: Die Hauptkomponentenanalyse (PCA) zeigt, dass interpolierte Modelle eine kontinuierliche Trajektorie im Repräsentationsraum bilden, wobei die erste Hauptkomponente stark mit $\lambda$ korreliert ( $r=0,974$ ).
Strukturelle Konnektivität: Die Instruct- und Thinking-Modelle weisen über alle Transformer-Layer hinweg eine hohe Kosinus-Ähnlichkeit (>0,99) auf, was die Linear Mode Connectivity (LMC) erfüllt. Dies deutet darauf hin, dass beide Modelle innerhalb desselben Optimierungsbeckens liegen, wodurch sichergestellt wird, dass der Interpolationspfad keine Bereiche mit hohem Verlust (High-Loss) durchläuft.

2. Das DAMI-Framework

Die Kerninnovation ist DAMI, welches die Reasoning Intensity $\lambda(q) \in [0, 1]$ dynamisch für eine spezifische Abfrage schätzt, um die kognitive Tiefe des Modells für jeden Input zu konfigurieren:
$\Theta^{(M)}(q) = \lambda(q)\Theta^{(T)} + (1 - \lambda(q))\Theta^{(I)}$

Es werden zwei komplementäre Methoden zur Schätzung von $\lambda(q)$ vorgeschlagen:

DAMI-Pref (Trainingsbasiert): Entwickelt für Szenarien mit In-Domain-Trainingsdaten. Es rahmt die $\lambda$ -Schätzung als Preference Learning-Problem statt als Regression. Ein leichtgewichtiges Reward-Modell wird trainiert, um Paare von Interpolationskoeffizienten basierend auf einem hierarchischen Kriterium zu bewerten: Priorisierung der Genauigkeit, gefolgt von der Effizienz (Token-Anzahl) als Tie-Breaker. Dieser Ansatz ist robust gegenüber Label-Rauschen und benötigt weniger Daten als regressionsbasierte Methoden.
DAMI-Conf (Trainingsfrei): Entwickelt für den Zero-Shot-Einsatz. Es schätzt $\lambda(q)$ $λ (q)$ mittels intrinsischer Konfidenzsignale der Basismodelle. Es fusioniert zwei Signale:
1. Holistische Ambiguität: Misst die allgemeine System-Unsicherheit (niedrige Konfidenz in beiden Modellen impliziert hohe Schwierigkeit).
2. Kognitive Diskrepanz: Misst die Diskrepanz in der Konfidenz zwischen dem Instruct- und dem Thinking-Modell (hohe Diskrepanz impliziert, dass die Abfrage unterschiedliche Strategien erfordert).
  Diese Signale werden fusioniert und durch eine kalibrierte Sigmoid-Funktion geleitet, um $\lambda(q)$ zu bestimmen.

Zentrale Beiträge

Paradigmenwechsel: Das Paper plädiert für den Übergang von der Output-Kontrolle (Begrenzung der Generierung) zur Kapazitäts-Kontrolle (Modulation der kognitiven Konfiguration via Parameter-Interpolation).
DAMI-Framework: Ein neuartiges Framework, das eine abfrage-adaptive Reasoning Intensity ermöglicht, ohne ein vereinheitlichtes Modell von Grund auf neu zu trainieren, indem es bestehende Checkpoints nutzt.
Duale Schätzungsstrategien: Die Einführung von DAMI-Pref (präferenzbasiert) und DAMI-Conf (konfidenzbasiert), um unterschiedliche Deployment-Constraints (Datenverfügbarkeit vs. Zero-Shot-Bedarf) zu adressieren.
Theoretische Validierung: Formale Beweise und empirische Evidenz, die zeigen, dass die lineare Interpolation zwischen ko-originären Modellen LMC erfüllt, was garantierte, valide, monotone und kontinuierliche Übergänge in Performance und Repräsentation sicherstellt.

Experimentelle Ergebnisse

Die Autoren evaluierten DAMI auf fünf mathematischen Reasoning-Benchmarks (GSM8K, MATH-500, AMC, AIME 2024/25) unter Verwendung zweier Modellfamilien (Qwen3-4B und DeepSeek-R1/Qwen2.5-7B).

Performance vs. Effizienz: DAMI etabliert konsistent überlegene Pareto-Fronten im Vergleich zu statischem Merging, Early-Exit (DEER) und Routing-Baselines.
- Bei Qwen3-4B erreichte DAMI-Pref eine Genauigkeit von 91,6 % (ein absoluter Gewinn von +3,4 % gegenüber dem Thinking-Modell) bei gleichzeitiger Reduktion des Token-Verbrauchs um 29 %.
- DAMI-Conf reduzierte den Token-Verbrauch um 40 % bei einer gleichzeitigen Aufrechterhaltung einer Genauigkeit von 90,7 % (+2,5 % gegenüber Thinking).
Adaptives Verhalten: Das „Thinking Ratio“ (Prozentsatz der Abfragen, die tiefes Reasoning auslösen) passt sich dem Schwierigkeitsgrad an. Bei einfachen Aufgaben (GSM8K) aktiviert DAMI tiefes Denken für nur ~25–41 % der Abfragen, während dies bei komplexen Aufgaben (AIME) auf 79–95 % ansteigt.
Multimodale Generalisierung: Das Framework wurde auf multimodalen Aufgaben (Video- und Bild-Text-Reasoning) mit Qwen3-VL-8B getestet. DAMI-Conf übertraf die Baselines und erzielte eine absolute Verbesserung von 2,5 % beim Video-Verständnis und 1,6 % beim Bild-Text-Reasoning.
Fallstudie: In einem Geometrie-Problem generierte das Thinking-Modell 2.846 Token mit redundanter Verifizierung. DAMI generierte eine korrekte Lösung in nur 351 Token, indem es das Problem direkt formulierte und berechnete, was demonstriert, dass Kapazitäts-Kontrolle inhärent effizientes Reasoning produziert, statt lediglich den Output zu kürzen.

Bedeutung und Ansprüche

Das Paper behauptet, dass die Dichotomie zwischen schnellem und langsamem Denken keine binäre Entscheidung sein muss, die zur Trainingszeit aufgelöst werden muss. Durch den Nachweis, dass die Tiefe des Reasonings auf einem glatten Spektrum existiert, das über einfache lineare Operationen im Parameterraum zugänglich ist, bietet DAMI eine flexible kognitive Architektur.

Die Autoren betonen, dass ihr Ansatz die Schwierigkeit umgeht, vereinheitlichte System-1/2-Modelle zu trainieren, und die mit Output-beschränkten Methoden assoziierte Leistungsdegradation vermeidet (die das Risiko bergen, Reasoning-Ketten abzuschneiden). Stattdessen findet DAMI einen „Sweet Spot“, indem es die kognitive Tiefe dynamisch konfiguriert und so die Effizienz von System 1 mit der Reasoning-Tiefe von System 2 kombiniert. Die Arbeit legt nahe, dass die Allokation von Reasoning-Ressourcen als ein wohldefiniertes Vorhersageproblem behandelt werden kann, bei dem die Schätzung des optimalen $\lambda(q)$ direkt das Modellverhalten bestimmt.