💬 NLP

AdaSwitch: Adaptive Switching between Small and Large Agents for Effective Cloud-Local Collaborative Learning

AdaSwitch introduceert een collaboratief leerframework dat adaptief schakelt tussen een kleine lokale agent en een grote cloud-agent, waardoor het lokale model introspectief fouten kan identificeren en om hulp kan vragen bij complexe redeneerstappen, wat de taakprestaties en -efficiëntie aanzienlijk verbetert terwijl de computerkosten worden geminimaliseerd.

Oorspronkelijke auteurs: Hao Sun, Jiayi Wu, Hengyi Cai, Xiaochi Wei, Yue Feng, Bo Wang, Shuaiqiang Wang, Yan Zhang, Dawei Yin

Gepubliceerd 2026-05-19

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Hao Sun, Jiayi Wu, Hengyi Cai, Xiaochi Wei, Yue Feng, Bo Wang, Shuaiqiang Wang, Yan Zhang, Dawei Yin

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een slimme assistent hebt die op je telefoon woont (de "Lokale Agent") en een supergeniale professor die werkt in een enorme, dure cloudserver (de "Cloud Agent").

Meestal moet je kiezen tussen hen:

De Lokale Agent is snel, goedkoop en heeft geen internetverbinding nodig, maar hij blijft soms vastlopen bij moeilijke puzzels of maakt domme rekenfouten.
De Cloud Agent is ongelooflijk slim en maakt zelden fouten, maar hij is traag, kost veel geld om te draaien en vereist een sterke internetverbinding.

ADASWITCH is een nieuw systeem dat deze twee laat samenwerken als een perfect team, zodat je het beste van twee werelden krijgt zonder de hoge prijs te betalen van het gebruik van de supergenie voor elke enkele taak.

Hoe het werkt: Het "Zelfcontrole"-team

Denk aan ADASWITCH als een slim workflow waarbij de Lokale Agent eerst probeert een probleem op te lossen. Maar hier is de magie: De Lokale Agent is getraind om te weten wanneer hij in de war is.

De Poging: De Lokale Agent (de AI van je telefoon) probeert een rekenprobleem op te lossen of een vraag te beantwoorden.
De Zelfcontrole: Voordat hij verder gaat, pauzeert de Lokale Agent en vraagt hij zichzelf: "Heb ik zojuist een fout gemaakt?"
- Als hij zegt: "Nee, het is goed," gaat hij door.
- Als hij zegt: "Wacht, dat ziet er niet goed uit," belt hij onmiddellijk de Cloud Agent om hulp.
De Redding: De Cloud Agent (de professor) treedt op, corrigeert de specifieke fout en geeft de gecorrigeerde stap terug aan de Lokale Agent.
De Afwerking: De Lokale Agent neemt de gecorrigeerde stap en voltooit de rest van de taak zelfstandig.

Hoe ze leerden samen te werken

Je vraagt je misschien af: "Hoe weet de Lokale Agent wanneer hij om hulp moet vragen?" De onderzoekers leerden dit met een drie-staps "trainingskamp":

Oefening: De Lokale Agent oefent met makkelijke problemen om de basis te leren.
Het Examen: De Lokale Agent doet een toets. Als hij een vraag fout heeft, geeft de Cloud Agent niet zomaar het antwoord; hij laat de Lokale Agent precies zien waar hij fout zat en hoe het op te lossen.
Reflectie: De Lokale Agent bestudeert deze "fout-en-correctie"-voorbeelden. Hij leert het gevoel van vastlopen te herkennen, zodat hij de volgende keer precies weet wanneer hij zijn hand moet opsteken en de Cloud Agent om assistentie moet vragen.

De Resultaten: Slimmer en Goedkoper

Het papier testte dit systeem op lastige rekenproblemen en complexe vragen. Dit is wat ze vonden:

Grote Winst: De Lokale Agent werd veel slimmer. Bijvoorbeeld, een klein model dat slechts 29% van de antwoorden goed had, sprong na gebruik van dit systeem naar bijna 54%.
Kostenbesparing: Hoewel ze de krachtige Cloud Agent gebruikten, gebruikten ze hem niet voor elke stap. Ze belde hem alleen wanneer nodig. Dit betekent dat het systeem resultaten behaalde die bijna even goed waren als het gebruik van alleen de Cloud Agent, maar met 3 tot 5 keer lagere rekenkosten.
Flexibiliteit: De Lokale Agent leerde de vaardigheid om te weten wanneer hij om hulp moet vragen, niet alleen hoe hij specifieke problemen oplost. Dit betekent dat hij kan werken met verschillende Cloud Agents (verschillende "professoren") zonder opnieuw getraind te hoeven worden.

In het Kort

ADASWITCH is als het hebben van een student die zijn eigen huiswerk doet, maar precies weet wanneer hij een tutor moet bellen voor de moeilijke vragen. Je krijgt de snelheid en lage kosten van de student die het werk doet, maar de nauwkeurigheid van de tutor die alleen ingrijpt wanneer het absoluut noodzakelijk is. Het is een manier om AI slimmer te maken zonder je bankrekening te breken.

Technische Samenvatting: ADASWITCH

Probleemstelling

De wijdverbreide adoptie van Large Language Models (LLM's) presenteert een dichotomie voor gebruikers: vertrouwen op cloudgebaseerde, grootschalige modellen biedt hoge generatiekwaliteit, maar brengt aanzienlijke rekenkosten, bandbreedteverbruik en latentie met zich mee. Omgekeerd reduceert het implementeren van kleinere, lokale LLM's de kosten en verbetert het de privacy, maar faalt het vaak in het leveren van bevredigende prestaties bij complexe redeneertaken die doordachte denkprocessen vereisen. Bestaande oplossingen zoals kennisdistillatie of modelkwantisatie verbeteren de lokale efficiëntie, maar lijden nog steeds onder ernstige prestatiedegradatie in veeleisende scenario's. De kernuitdaging is om de redeneercapaciteiten van grote cloudmodellen te benutten, terwijl de efficiëntie en toegankelijkheid van lokale implementatie behouden blijven.

Methodologie: Het ADASWITCH-kader

Om dit aan te pakken, stellen de auteurs ADASWITCH voor, een nieuw kader dat de gecoördineerde werking mogelijk maakt van een lokaal agent (kleinere LLM) en een cloud-agent (grotere LLM). Het systeem is ontworpen om de lokale agent in staat te stellen minder complexe redeneerstappen onafhankelijk te behandelen, terwijl het proactief hulp zoekt bij de cloud-agent voor ingewikkelde stappen.

Het kader werkt via een meerfasig leerparadigma met drie stadia:

Zelfoefening: De lokale agent wordt eerst fijngefineerd op een trainingsdataset om basisredeneervermogens te vestigen. Interactietrajecten worden gegenereerd door grondwaarheid-redeneerstappen om te zetten in denk-actie-observatie-sequenties.
Gecoördineerd Examen: De lokale agent onderneemt een "examen" op de trainingsset. Tijdens deze fase identificeert een op regels gebaseerd mechanisme (dat tussentijdse resultaatverificatie gebruikt voor wiskundige taken of semantische equivalentiecontroles voor teksttaken) dynamisch onjuiste redeneerstappen. Wanneer een fout wordt gedetecteerd, wordt de cloud-agent geactiveerd om de fout te corrigeren door de foutieve stap te wissen en de juiste stap opnieuw te genereren. De lokale agent gaat vervolgens voort op basis van deze correctie. Dit proces genereert een dataset van trajecten voor foutcontrole en foutcorrectie.
Reflectief Leren: De lokale agent wordt fijngefineerd op de trajecten die in het tweede stadium zijn gegenereerd. Cruciaal is dat tijdens de verliesberekening de tokens die overeenkomen met de oorspronkelijke verkeerde gedachten en acties worden gemaskeerd. Dit voorkomt dat het model verkeerde patronen leert, terwijl het het leert om fouten te herkennen en feedback te benutten.

Inferentiemechanisme (ADASWITCH-modus):
Tijdens inferentie werkt de lokale agent in een lus van denken, handelen en reflecteren. Het introspectief voorspelt de waarschijnlijkheid dat de vorige stap onjuist was. Als deze waarschijnlijkheid een vooraf gedefinieerde activeringsdrempel ( $p$ ) overschrijdt, schakelt het systeem over naar de ADASWITCH-modus, waarbij de cloud-agent wordt geactiveerd om de stap te corrigeren. Dit staat in contrast met een "Zelfreflectie"-modus, waarbij de lokale agent probeert fouten alleen te corrigeren, of een "Willekeurige/Sequentiële" schakelstrategie.

Belangrijkste Bijdragen

Adaptief Schakelkader: Het paper introduceert een mechanisme waarbij de lokale agent introspectief fouten identificeert en proactief hulp zoekt, waardoor de sterke punten van zowel lokaal geïmplementeerde als cloudgebaseerde LLM's effectief worden geïntegreerd.
Constructie van Foutcontrole-dataset: De auteurs stellen een methode voor om een gespecialiseerde dataset te construeren door de cloud-agent de fouten van de lokale agent te laten corrigeren tijdens een gecoördineerd examen, waardoor de lokale agent wordt gestimuleerd om te leren wanneer om hulp te vragen en hoe feedback te benutten.
Kosten-Prestatiebalans: Het kader bereikt aanzienlijke prestatieverbeteringen voor lokale agenten, terwijl het aanzienlijk minder rekenoverhead gebruikt in vergelijking met het uitsluitend vertrouwen op grote cloudmodellen.

Experimentele Resultaten

De auteurs hebben ADASWITCH geëvalueerd op zeven benchmarks, waaronder wiskundig redeneren (GSM8K, G_Hard, MultiArith, SVAMP, ASDIV) en complexe vraagbeantwoording (MuSiQue, HotpotQA).

Prestatiewinst: ADASWITCH verbeterde consequent de prestaties van lokale agenten.
- Bij gebruik van een DeepSeek-Coder-1.3B als lokale agent, verbeterde de prestatie op GSM8K van 29,3% naar 53,9% (een toename van 24,6 procentpunten).
- Bij gebruik van een StarCoder2-3B als lokale agent, verbeterde de prestatie op GSM8K van 48,8% naar 60,6%.
- Op moeilijke datasets zoals G_Hard zag het 1,3B-model een relatieve verbetering van 86,9%.
Concurrentievermogen: De door ADASWITCH verbeterde 3B-lokale agent behaalde prestaties die vergelijkbaar waren met de Llama-3-33B-cloud-agent op verschillende taken, maar met 5x minder rekenoverhead.
Kosteneffectiviteit: In vergelijking met het uitsluitend gebruik van een 33B-cloud-agent, behaalde ADASWITCH (met een 1,3B-lokale agent + 33B-cloud-agent) vergelijkbare nauwkeurigheid met 3x lagere rekenkosten.
Ablatiestudies: Het verwijderen van de cloud-agent of het stadium van reflectief leren degradeerde de prestaties aanzienlijk, wat de noodzaak bevestigt van zowel de gecoördineerde correctie als de specifieke training op trajecten voor foutcorrectie.
Generalisatie: Het kader toonde sterke generalisatie, waardoor lokale agenten die zijn getraind met een 33B-cloud-agent effectief konden samenwerken met verschillende cloud-agenten (13B, 32B, 70B) zonder hertraining.

Betekenis en Aanspraken

Het paper beweert dat ADASWITCH een significante stap voorwaarts is in het toegankelijk en efficiënt maken van hoogwaardige LLM-redenering. Door menselijk gedrag na te bootsen – waarbij individuen hulp zoeken bij kennisvollere bronnen wanneer ze geconfronteerd worden met moeilijke componenten – stelt het kader kleinere modellen in staat om "boven hun gewicht te slaan".

De auteurs benadrukken dat hun aanpak de afweging tussen rekenkosten en prestaties bij taakvoltooiing effectief in evenwicht brengt. Zij stellen dat het kader lokale agenten in staat stelt het merendeel van de gemakkelijke stappen onafhankelijk te behandelen, terwijl dure cloudbronnen worden gereserveerd voor alleen de meest uitdagende redeneerstappen. Het werk suggereert dat dergelijke adaptieve, gecoördineerde kaders een levensvatbaar pad zijn naar het implementeren van krachtige AI-capaciteiten op lokale apparaten zonder in te leveren op de redeneerdiepte die wordt geboden door massieve cloudmodellen.

De auteurs wijzen op beperkingen, specifiek dat de evaluatie momenteel beperkt is tot wiskundige en complexe QA-taken, en dat experimenten niet zijn uitgevoerd op modellen groter dan 100B parameters vanwege resourcebeperkingen. Zij suggereren dat toekomstig werk deze aanpak moet uitbreiden naar een bredere reeks redeneertaken en grotere schaalmodellen.