💬 NLP

AdaSwitch: Adaptive Switching between Small and Large Agents for Effective Cloud-Local Collaborative Learning

AdaSwitch führt ein kollaboratives Lernframework ein, das zwischen einem kleinen lokalen Agenten und einem großen Cloud-Agenten adaptiv wechselt, wodurch das lokale Modell in der Lage ist, Fehler introspektiv zu identifizieren und Unterstützung für komplexe Schlussfolgerungsschritte anzufordern, was die Aufgabenleistung und -effizienz erheblich verbessert und gleichzeitig die Rechenkosten minimiert.

Ursprüngliche Autoren: Hao Sun, Jiayi Wu, Hengyi Cai, Xiaochi Wei, Yue Feng, Bo Wang, Shuaiqiang Wang, Yan Zhang, Dawei Yin

Veröffentlicht 2026-05-19

📖 3 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Hao Sun, Jiayi Wu, Hengyi Cai, Xiaochi Wei, Yue Feng, Bo Wang, Shuaiqiang Wang, Yan Zhang, Dawei Yin

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen intelligenten Assistenten auf Ihrem Telefon (den „lokalen Agenten") und einen Super-Genie-Professor, der auf einem riesigen, teuren Cloud-Server arbeitet (den „Cloud-Agenten").

Normalerweise müssen Sie zwischen ihnen wählen:

Der lokale Agent ist schnell, günstig und benötigt keine Internetverbindung, aber er bleibt manchmal bei schwierigen Rätseln stecken oder macht dumme Rechenfehler.
Der Cloud-Agent ist unglaublich intelligent und macht selten Fehler, aber er ist langsam, kostet viel Geld zu betreiben und erfordert eine starke Internetverbindung.

ADASWITCH ist ein neues System, das diese beiden wie ein perfektes Team zusammenarbeiten lässt, sodass Sie das Beste aus beiden Welten erhalten, ohne den hohen Preis zu zahlen, den die Nutzung des Super-Genies für jede einzelne Aufgabe mit sich bringt.

Wie es funktioniert: Das „Selbst-Check"-Team

Stellen Sie sich ADASWITCH als einen intelligenten Arbeitsablauf vor, bei dem der lokale Agent versucht, ein Problem zuerst zu lösen. Aber hier liegt der Zauber: Der lokale Agent wurde trainiert zu wissen, wann er verwirrt ist.

Der Versuch: Der lokale Agent (die KI Ihres Telefons) versucht, ein Matheproblem zu lösen oder eine Frage zu beantworten.
Der Selbst-Check: Bevor er fortfährt, pausiert der lokale Agent und fragt sich selbst: „Habe ich gerade einen Fehler gemacht?"
- Wenn er sagt: „Nein, ich bin gut", fährt er fort.
- Wenn er sagt: „Warte, das sieht nicht richtig aus", ruft er sofort den Cloud-Agenten um Hilfe.
Die Rettung: Der Cloud-Agent (der Professor) greift ein, korrigiert den spezifischen Fehler und gibt den korrigierten Schritt an den lokalen Agenten zurück.
Der Abschluss: Der lokale Agent nimmt den korrigierten Schritt entgegen und beendet den Rest der Aufgabe selbstständig.

Wie sie gelernt haben, zusammenzuarbeiten

Sie fragen sich vielleicht: „Wie weiß der lokale Agent, wann er um Hilfe bitten soll?" Die Forscher haben ihn mit einem dreistufigen „Trainingslager" beigebracht:

Übung: Der lokale Agent übt an einfachen Problemen, um die Grundlagen zu erlernen.
Die Prüfung: Der lokale Agent macht einen Test. Wenn er eine Frage falsch beantwortet, gibt der Cloud-Agent nicht einfach die Antwort; er zeigt dem lokalen Agenten genau, wo er falsch lag und wie man es korrigiert.
Reflexion: Der lokale Agent studiert diese „Fehler-und-Korrektur"-Beispiele. Er lernt, das Gefühl des Steckenbleibens zu erkennen, sodass er beim nächsten Mal genau weiß, wann er die Hand heben und den Cloud-Agenten um Unterstützung bitten muss.

Die Ergebnisse: Intelligenter und günstiger

Die Studie testete dieses System an kniffligen Matheproblemen und komplexen Fragen. Hier ist, was sie herausfanden:

Große Gewinne: Der lokale Agent wurde viel intelligenter. Beispielsweise sprang ein kleines Modell, das zuvor nur 29 % der Antworten richtig hatte, nach der Nutzung dieses Systems auf fast 54 %.
Kosteneinsparungen: Obwohl sie den leistungsstarken Cloud-Agenten nutzten, verwendeten sie ihn nicht für jeden Schritt. Sie riefen ihn nur bei Bedarf. Das bedeutet, das System erzielte Ergebnisse, die fast so gut waren wie die alleinige Nutzung des Cloud-Agenten, aber mit 3- bis 5-mal geringeren Rechenkosten.
Flexibilität: Der lokale Agent lernte die Fähigkeit, zu wissen, wann er um Hilfe bitten muss, und nicht nur, wie man spezifische Probleme löst. Das bedeutet, er kann mit verschiedenen Cloud-Agenten (verschiedenen „Professoren") arbeiten, ohne neu trainiert werden zu müssen.

In Kürze

ADASWITCH ist wie ein Schüler, der seine Hausaufgaben selbst macht, aber genau weiß, wann er einen Nachhilfelehrer für die schwierigen Fragen rufen muss. Sie erhalten die Geschwindigkeit und die niedrigen Kosten des Schülers, der die Arbeit erledigt, aber die Genauigkeit des Nachhilfelehrers, der nur dann eingreift, wenn es absolut notwendig ist. Es ist eine Möglichkeit, KI intelligenter zu machen, ohne die Bank zu sprengen.

Technische Zusammenfassung: ADASWITCH

Problemstellung

Die weit verbreitete Einführung von Large Language Models (LLMs) stellt für Nutzer eine Dichotomie dar: Das Verlassen auf cloudbasierte, großskalige Modelle bietet hohe Generierungsqualität, verursacht jedoch erhebliche Rechenkosten, Bandbreitenverbrauch und Latenz. Im Gegensatz dazu reduziert der Einsatz kleinerer, lokaler LLMs die Kosten und verbessert die Privatsphäre, liefert aber bei komplexen Denkaufgaben, die bewusste Denkprozesse erfordern, oft keine zufriedenstellende Leistung. Bestehende Lösungen wie Wissensdistillation oder Modellquantisierung verbessern die lokale Effizienz, leiden jedoch weiterhin unter schwerwiegenden Leistungseinbußen in anspruchsvollen Szenarien. Die Kernherausforderung besteht darin, die Denkfähigkeiten großer Cloud-Modelle zu nutzen und gleichzeitig die Effizienz und Zugänglichkeit des lokalen Einsatzes beizubehalten.

Methodik: Das ADASWITCH-Framework

Um dies zu adressieren, schlagen die Autoren ADASWITCH vor, ein neuartiges Framework, das den kollaborativen Betrieb eines lokalen Agents (kleineres LLM) und eines Cloud-Agents (größeres LLM) ermöglicht. Das System ist so konzipiert, dass der lokale Agent weniger komplexe Denkschritte eigenständig bewältigt, während er proaktiv Unterstützung durch den Cloud-Agenten für komplexe Schritte sucht.

Das Framework arbeitet durch ein mehrstufiges Lernparadigma mit drei Phasen:

Selbsttraining: Der lokale Agent wird zunächst auf einem Trainingsdatensatz feinabgestimmt, um grundlegende Denkfähigkeiten zu etablieren. Interaktionspfade werden generiert, indem wahre Denkschritte in Sequenzen aus Gedanken, Aktionen und Beobachtungen umgewandelt werden.
Kollaborative Prüfung: Der lokale Agent legt eine „Prüfung" auf dem Trainingsset ab. Während dieser Phase identifiziert ein regelbasiertes Mechanismus (unter Verwendung der Verifizierung von Zwischenergebnissen für mathematische Aufgaben oder semantischer Äquivalenzprüfungen für Textaufgaben) dynamisch fehlerhafte Denkschritte. Wird ein Fehler erkannt, wird der Cloud-Agent aktiviert, um den Fehler zu korrigieren, indem der fehlerhafte Schritt gelöscht und der korrekte neu generiert wird. Der lokale Agent fährt dann basierend auf dieser Korrektur fort. Dieser Prozess erzeugt einen Datensatz von Pfaden zur Fehlerprüfung und Fehlerkorrektur.
Reflektives Lernen: Der lokale Agent wird auf den im zweiten Stadium generierten Pfaden feinabgestimmt. Entscheidend ist, dass während der Verlustberechnung die Tokens, die den ursprünglichen falschen Gedanken und Aktionen entsprechen, maskiert werden. Dies verhindert, dass das Modell falsche Muster lernt, während es gleichzeitig lernt, Fehler zu erkennen und Feedback zu nutzen.

Inferenzmechanismus (ADASWITCH-Modus):
Während der Inferenz arbeitet der lokale Agent in einer Schleife aus Denken, Handeln und Reflektieren. Er sagt introspektiv die Wahrscheinlichkeit vorher, dass der vorherige Schritt falsch war. Überschreitet diese Wahrscheinlichkeit einen vordefinierten Aktivierungsschwellenwert ( $p$ ), schaltet das System in den ADASWITCH-Modus und aktiviert den Cloud-Agenten, um den Schritt zu korrigieren. Dies steht im Gegensatz zu einem „Selbstreflexions"-Modus, in dem der lokale Agent versucht, Fehler allein zu korrigieren, oder zu einer „zufälligen/sequenziellen" Umschaltstrategie.

Hauptbeiträge

Adaptives Umschaltparadigma: Die Arbeit stellt einen Mechanismus vor, bei dem der lokale Agent Fehler introspektiv identifiziert und proaktiv Unterstützung sucht, wodurch die Stärken sowohl lokal eingesetzter als auch cloudbasierter LLMs effektiv integriert werden.
Konstruktion eines Fehlerprüfungs-Datensatzes: Die Autoren schlagen eine Methode vor, um einen spezialisierten Datensatz zu erstellen, indem der Cloud-Agent während einer kollaborativen Prüfung die Fehler des lokalen Agents korrigiert. Dies motiviert den lokalen Agenten zu lernen, wann er Hilfe anfordern soll und wie er Feedback nutzen kann.
Kosten-Leistungs-Balance: Das Framework erzielt signifikante Leistungsverbesserungen für lokale Agenten, bei gleichzeitig deutlich geringerem Rechenaufwand im Vergleich zur ausschließlichen Nutzung großer Cloud-Modelle.

Experimentelle Ergebnisse

Die Autoren evaluierten ADASWITCH über sieben Benchmarks hinweg, darunter mathematisches Reasoning (GSM8K, G_Hard, MultiArith, SVAMP, ASDIV) und komplexe Fragebeantwortung (MuSiQue, HotpotQA).

Leistungssteigerungen: ADASWITCH verbesserte konsistent die Leistung lokaler Agenten.
- Bei Verwendung eines DeepSeek-Coder-1.3B als lokalen Agenten verbesserte sich die Leistung auf GSM8K von 29,3 % auf 53,9 % (eine Steigerung um 24,6 Prozentpunkte).
- Bei Verwendung eines StarCoder2-3B als lokalen Agenten verbesserte sich die Leistung auf GSM8K von 48,8 % auf 60,6 %.
- Auf schwierigen Datensätzen wie G_Hard verzeichnete das 1,3B-Modell eine relative Verbesserung von 86,9 %.
Wettbewerbsfähigkeit: Der durch ADASWITCH verbesserte 3B-lokale Agent erreichte bei mehreren Aufgaben eine mit dem Llama-3-33B-Cloud-Agenten vergleichbare Leistung, jedoch mit 5-fach geringerem Rechenaufwand.
Kosteneffizienz: Im Vergleich zur ausschließlichen Nutzung eines 33B-Cloud-Agents erreichte ADASWITCH (unter Verwendung eines 1,3B-lokalen Agents + 33B-Cloud-Agents) eine ähnliche Genauigkeit bei 3-fach geringeren Rechenkosten.
Ablationsstudien: Das Entfernen des Cloud-Agents oder der Phase des reflektiven Lernens verschlechterte die Leistung erheblich, was die Notwendigkeit sowohl der kollaborativen Korrektur als auch des spezifischen Trainings auf Fehlerkorrekturpfaden bestätigt.
Generalisierung: Das Framework zeigte eine starke Generalisierungsfähigkeit, indem es lokalen Agenten, die mit einem 33B-Cloud-Agenten trainiert wurden, ermöglichte, effektiv mit verschiedenen Cloud-Agents (13B, 32B, 70B) zusammenzuarbeiten, ohne neu trainiert werden zu müssen.

Bedeutung und Behauptungen

Die Autoren behaupten, dass ADASWITCH einen bedeutenden Schritt nach vorn darstellt, um hochwertigen LLM-Reasoning zugänglich und effizient zu machen. Indem es menschliches Verhalten nachahmt – bei dem Individuen Unterstützung von wissenderen Quellen suchen, wenn sie schwierigen Komponenten begegnen –, ermöglicht das Framework kleineren Modellen, „über ihre Verhältnisse hinaus zu wachsen".

Die Autoren betonen, dass ihr Ansatz den Kompromiss zwischen Rechenkosten und Leistung bei der Aufgabenerfüllung effektiv ausbalanciert. Sie behaupten, dass das Framework lokalen Agenten ermöglicht, die Mehrheit der einfachen Schritte eigenständig zu bewältigen, während teure Cloud-Ressourcen nur für die herausforderndsten Denkschritte reserviert werden. Die Arbeit legt nahe, dass solche adaptiven, kollaborativen Frameworks ein gangbarer Weg sind, um leistungsstarke KI-Fähigkeiten auf lokalen Geräten einzusetzen, ohne die durch massive Cloud-Modelle bereitgestellte Tiefe des Reasonings zu opfern.

Die Autoren weisen auf Einschränkungen hin, insbesondere dass die Evaluierung derzeit auf mathematische und komplexe QA-Aufgaben beschränkt ist und Experimente aufgrund von Ressourcenbeschränkungen nicht an Modellen mit mehr als 100 Milliarden Parametern durchgeführt wurden. Sie schlagen vor, dass zukünftige Arbeiten untersuchen sollten, wie dieser Ansatz auf ein breiteres Spektrum von Reasoning-Aufgaben und Modelle größeren Maßstabs erweitert werden kann.