⚡ electrical engineering

Large Language Models over Networks: Collaborative Intelligence under Resource Constraints

Dit artikel stelt een paradigma voor van collaboratieve intelligentie waarbij meerdere grote taalmodellen die over apparaten en de cloud zijn verspreid, samenwerken via verticale en horizontale samenwerking om onder uiteenlopende resourcebeperkingen hoogwaardige antwoorden te leveren, terwijl tevens trainingsstrategieën en openstaande onderzoeksuitdagingen worden aangepakt.

Oorspronkelijke auteurs: Liangqi Yuan, Wenzhi Fang, Shiqiang Wang, H. Vincent Poor, Christopher G. Brinton

Gepubliceerd 2026-05-12

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Liangqi Yuan, Wenzhi Fang, Shiqiang Wang, H. Vincent Poor, Christopher G. Brinton

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een team van werknemers voor dat probeert een complex puzzel op te lossen. Sommige werknemers zijn klein, snel en werken direct op je bureau (je telefoon of laptop), maar ze zijn niet erg slim. Anderen zijn reuzen met enorme kennisbibliotheken, maar ze werken in een ver kantoor (de cloud), en het kost tijd om hen een bericht te sturen en een antwoord terug te krijgen. Bovendien kost het bellen van de reuzen geld, en soms is de telefoonlijn kapot.

Dit artikel stelt een nieuwe manier voor waarop deze werknemers samen kunnen werken. In plaats van te proberen de kleine werknemer slimmer te maken of de reus te dwingen naar je bureau te komen, praten ze gewoon met elkaar om het probleem samen op te lossen. De auteurs noemen dit "Collaborative Intelligence" (samenwerkende intelligentie).

Hier is een uiteenzetting van hun ideeën met behulp van eenvoudige analogieën:

1. Het Probleem: Waarom Eén Werknemer Niet Genoeg Is

De Kleine Werknemer (Op Apparaat): Denk aan een smartphone. Het is snel en privé, maar het is als een student die een paar boeken heeft gelezen. Het kan simpele vragen afhandelen, maar als je vraagt om een complex juridisch contract te schrijven of een video te analyseren, raakt het misschien in de war of raakt het de energie op.
De Reus (De Cloud): Denk aan een superintelligent expert in een datacenter. Ze weten alles, maar ze zijn ver weg. Het sturen van een vraag naar hen kost tijd (latentie), kost geld per woord en vereist een sterke internetverbinding. Als het internet uitvalt, zit je vast.
Het Dilemma: Je kunt de kleine werknemer niet voor alles gebruiken (slechte antwoorden) en de reus ook niet voor alles (te traag, te duur, of onmogelijk als het internet uitvalt).

2. De Oplossing: Een Teamhuddle

Het artikel stelt voor dat deze werknemers moeten samenwerken op het taalniveau. Ze hoeven hun "hersenen" niet te delen (de interne code of gewichten van de AI); ze hoeven alleen maar berichten te delen (vragen, antwoorden en notities).

De auteurs beschrijven twee manieren waarop dit team kan huddle:

Verticale Samenwerking (De Assistent en de Baas):
- Stel je een lokale assistent voor (je telefoon) die eerst probeert een vraag te beantwoorden. Als ze denkt: "Ik weet het niet zeker, dit is te moeilijk", vraagt ze de Baas (de cloud) snel om hulp.
- De Truc: De assistent dumpt niet elke keer de hele gespreksgeschiedenis naar de Baas (wat traag en duur is). In plaats daarvan vat ze de kernpunten samen voordat ze vraagt, waardoor tijd en geld worden bespaard.
Horizontale Samenwerking (De Peergroep):
- Stel je een groep vrienden voor (zoals meerdere robots of telefoons) die aan een project werken. Ze hebben geen baas; ze praten gewoon met elkaar.
- Debatstijl: Ze raden allemaal een antwoord, discussiëren dan over wie gelijk heeft tot ze het eens zijn.
- Verdeling van Arbeid: Iemand zoekt feiten op, iemand anders doet de wiskunde en een derde schrijft het verslag.
- De Uitdaging: Als ze te veel praten, verspillen ze tijd en data. Het artikel stelt voor dat ze moeten leren hoe ze efficiënt moeten praten zodat ze zichzelf niet blijven herhalen.

3. Leren Samenwerken

Het artikel betoogt dat we deze werknemers niet gewoon met starre regels moeten programmeren (zoals "Als de vraag moeilijk is, bel de cloud"). In plaats daarvan moeten we ze leren leren hoe ze moeten samenwerken.

Leren Routeren: De kleine werknemer leert om zijn eigen vertrouwen te beoordelen. Het leert: "Ik kan dit makkelijk beantwoorden, dus ik doe het zelf om geld te besparen", of "Dit is lastig en ik heb nog budget over, dus ik bel de cloud." Het leert om een "budget" van tijd en geld te beheren over een heel gesprek, niet alleen voor één vraag.
Leren Samenwerken: De werknemers worden getraind om te stoppen met gedragen als solo-artiesten. In plaats van alleen maar op instructies te wachten, leren ze zich aan te passen aan elkaar. Bijvoorbeeld: als één werknemer traag is, leren de anderen om te wachten of hun gedachten duidelijker samen te vatten zodat de groep sneller klaar is.

4. Een Wereldvoorbeeld: De Keukenassistent

Het artikel test dit idee met een scenario van een "slimme keuken".

De Opzet: Een gebruiker kookt en praat met zijn telefoon. De telefoon heeft een camera (die het voedsel ziet) en een kleine AI-brein. De cloud heeft een super-slimme AI.
Het Doel: Vragen beantwoorden over het kookproces terwijl je binnen een strikte tijdslimiet blijft (30 seconden totaal) en een strikte geldlimiet ($0,05 totaal).
Het Resultaat:
- Als de telefoon probeert alles alleen te doen, zijn de antwoorden oké maar niet geweldig.
- Als de telefoon alles naar de cloud stuurt, zijn de antwoorden perfect, maar raakt het geld en tijd op.
- De Winnaar: De "Gestudeerde Router". Dit systeem leert om simpele vragen naar de telefoon te sturen en moeilijke vragen naar de cloud, maar het besluit ook exact welke foto's naar de cloud moeten worden gestuurd om data te besparen. Het beheert het budget als een slimme winkelaar, die de $0,05 uitrekt om het best mogelijke antwoord te krijgen.

5. De Overgebleven Hindernissen

Het artikel geeft toe dat dit nog niet perfect is. Twee grote uitdagingen blijven bestaan:

Schalen: Wat gebeurt er als je 1.000 robots of auto's hebt die met elkaar proberen te praten? Het netwerk kan verstopt raken door te veel gepraat. We hebben betere manieren nodig om deze grote zwermen te organiseren.
Vertrouwen en Veiligheid: Als een kwaadaardige actor één werknemer in de keten bedriegt, kan dat slechte idee zich verspreiden naar iedereen anders, zoals een gerucht. Ook, als de werknemers privéfoto's of medische gegevens delen om een probleem op te lossen, hoe zorgen we dan dat die data niet lekt?

Samenvatting

Kortom, dit artikel zegt: Probeer niet elk apparaat een supercomputer te maken. Laat in plaats daarvan kleine apparaten en grote cloudcomputers met elkaar praten als een team. Door ze te leren beslissen wanneer ze elkaar moeten helpen en hoe ze efficiënt moeten communiceren, kunnen we het beste van twee werelden krijgen: snelle, privé en slimme antwoorden zonder de bank te breken of het internet.

Technische Samenvatting: Grootte Taalmodellen over Netwerken: Collaboratieve Intelligentie onder Beperkingen in Middelen

1. Probleemstelling

De implementatie van Grootte Taalmodellen (LLM's) staat voor een fundamentele tweedeling: geavanceerde modellen met honderden miljarden parameters bieden superieure capaciteiten, maar vereisen cloud-omgevingen met overvloedige middelen, terwijl lichtgewicht modellen die geschikt zijn voor uitvoering op het apparaat te kampen hebben met aanzienlijke capaciteitsgaten bij complexe taken. Bestaande oplossingen, zoals modelpartitionering, speculatieve decoding en federated learning, opereren op modelniveau. Deze benaderingen vereisen witte-doos-toegang tot modelinterne details, nauw gekoppelde uitvoering en gaan vaak uit van homogene hardware.

Bijgevolg slagen ze er niet in om scenario's aan te pakken die betrekking hebben op:

Intermittente connectiviteit (bijv. UAV's, veldrobots).
Strikte latentiebudgetten (bijv. gesloten-lusregeling).
Beperkingen inzake data-residentie (bijv. gezondheidszorg, financiën).
Gedurende langdurige hoge-volume inferentie begrensd door API-snelheidslimieten en kosten per token.

Geen enkel eindpunt (apparaat of cloud) kan een hoogwaardige dienst leveren over dit volledige spectrum van beperkingen in middelen (berekening, geheugen, communicatie en kosten). Het artikel pleit voor een verschuiving van distributie op modelniveau naar Collaboratieve Intelligentie, een paradigma waarbij meerdere onafhankelijke, zwarte-doos LLM's die over netwerkniveaus verdeeld zijn, samenwerken op taalniveau via natuurlijke taal of gestructureerde berichten, zonder gewichten of interne toestanden te delen.

2. Methodologie en Systeemontwerp

Het artikel stelt een raamwerk voor voor collaboratieve inferentie, georganiseerd langs twee complementaire en composeerbare dimensies: Verticale Apparaat-Cloud Samenwerking en Horizontale Multi-Agent Samenwerking.

A. Verticale Apparaat-Cloud Samenwerking

Deze topologie adresseert de capaciteitskloof tussen lichtgewicht LLM's op het apparaat en krachtige cloud-LLM's.

Gecombineerde LLM- en Modaliteitsselectie: Het systeem moet beslissen welk eindpunt een verzoek bedient en, voor multimodale invoer, welk subset van data (bijv. specifieke camerabewegingen) moet worden verzonden. Het verzenden van alle invoer is vaak onnodig; het optimaliseren van de invoersamenstelling verlaagt communicatiekosten terwijl de kwaliteit behouden blijft.
Contextbeheer: Bij meer-draads conversaties vereist het wisselen van eindpunt het overdragen van de opgebouwde dialooggeschiedenis. Het artikel benadrukt de spanning tussen frequent wisselen (hoge overhead voor contextoverdracht) en sessie-toewijzing (verlies van aanpasbaarheid). Praktische oplossingen omvatten contextcaching en selectieve samenvatting om de staat te comprimeren voordat deze wordt verzonden.

B. Horizontale Multi-Agent Samenwerking

Deze topologie stelt peer-LLM-agenten in staat taken collectief op te lossen.

Samenwerkingspatronen: Het artikel identificeert drie primaire patronen:
1. Debat: Agenten genereren onafhankelijke antwoorden, critiseren en herzien totdat er consensus is.
2. Arbeidsverdeling: Taken worden opgesplitst in subtaken (bijv. ophalen, berekening, synthese) die worden toegewezen aan gespecialiseerde agenten.
3. Hiërarchisch: Een supervisor-agent splitst taken op en bewaakt de voortgang, terwijl werknemer-agenten subtaken uitvoeren.
Communicatietopologie: De keuze van de topologie (volledig verbonden, ster, relais) heeft een kritieke impact op de overhead. Aangezien berichten natuurlijke taal zijn in plaats van compacte vectoren, schaalt volledig verbonden debat slecht ( $O(N^2T^2)$ tokenverkeer). Hiërarchische structuren worden opgemerkt als communicatie-efficiënter.

C. Leren om Samen te Werken

Het artikel onderscheidt tussen het leren om te routeren (verticaal) en het leren om te coöpereren (horizontaal).

Leren van Routeringsbeleid:
- Router-gebaseerde Selectie: Een lichtgewicht classifier voorspelt het beste eindpunt op basis van querykenmerken, getraind via beperkte optimalisatie om kwaliteit te maximaliseren onder kosten/latentie-budgetten.
- Zelf-routering via Post-Training: De LLM op het apparaat wordt getraind via versterkingsleren (RL) om taken eerst te proberen en te beslissen of er geëscaleerd moet worden op basis van interne redeneersignalen (bijv. zelfconsistentie, entropie). Dit elimineert de noodzaak voor een externe router en maakt gebruik van de eigen capaciteitsbeoordeling van het model.
Leren van Coöperatieve Capaciteiten:
- Coöperatieve Beleidsoptimalisatie: Voorbijgaand aan statische prompt-engineering, worden agenten gezamenlijk getraind via RL in authentieke collaboratieve scenario's. Het artikel merkt op dat het trainen van agenten in isolatie onvoldoende is; gelijktijdige co-training stelt agenten in staat zich aan te passen aan evoluerende strategieën.
- Inter-Agent Netwerkoptimalisatie: Training omvat communicatiekosten direct, waardoor agenten worden aangemoedigd om spaarzame topologieën en beknopte, hoog-informatieve berichten te gebruiken om tokenverkeer te verminderen terwijl de prestaties behouden blijven.

3. Belangrijkste Resultaten en Casestudy

Het artikel presenteert een casestudy over Apparaat-Cloud Routering in Multimodale Conversaties (een keukenassistent-scenario) om de voorgestelde leeraanpak te valideren.

Opzet: Een lichtgewicht tekst-only LLM (Phi-3-mini) op een Jetson TX2-apparaat werkt samen met een cloud multimodale geavanceerde LLM (GPT-4o). Het systeem opereert onder strikte cumulatieve budgetten (30s latentie, $0,05 kosten).
Vondsten:
- Alleen op apparaat: Snel en gratis, maar levert lage responskwaliteit op.
- Alleen in de cloud: Hoge kwaliteit, maar schendt vaak budgetbeperkingen.
- Op prompts gebaseerde Routers (LLM-as-Router): Volgen een standaard tradeoff-curve voor kwaliteit-latentie-kosten; hogere kwaliteit vereist evenredig hogere latentie en kosten.
- RL-gebaseerde Geleerde Router: Breekt de standaard tradeoff-curve. Door het overgebleven budget als onderdeel van de staat van het beleid te internaliseren, redeneert de geleerde router over middelenverbruik over de hele conversatie in plaats van per query. Het bereikt vergelijkbare responskwaliteit als cloud-only-benaderingen bij aanzienlijk lagere latentie en kosten.

4. Open Uitdagingen en Onderzoeksrichtingen

Het artikel identificeert twee primaire assen van open uitdagingen:

Schalen onder Heterogeniteit van Middelen:
- Het ontwikkelen van protocollen die zich aanpassen aan constant verschuivende ecosystemen waarbij eindpunten qua capaciteit en kosten met ordes van grootte variëren, zonder hertraining te vereisen.
- Schalen van paarsgewijze samenwerking naar grootschalige zwermen (bijv. drone-vloten), waarbij rekening wordt gehouden met planning, consensus over vluchtige links en druk op het geheugen voor lange contexten.
Betrouwbare Collaboratieve Intelligentie:
- Privacy: Het in evenwicht brengen van de behoefte aan contextdeling (voor kwaliteit) met de beperking van gevoelige data (PII, medische dossiers) over vertrouwensgrenzen heen.
- Veiligheid: Verdedigen tegen cascaderende prompt-injectie-aanvallen waarbij een compromittering op één knooppunt zich voortplant door de collaboratiestructuur, wat potentieel echte schade kan veroorzaken in fysieke systemen.

5. Betekenis en Claims

Het artikel beweert dat Collaboratieve Intelligentie een onderscheidend en noodzakelijk paradigma vertegenwoordigt voor netwerkgemaakte LLM's. De betekenis hiervan ligt in:

Orkestratie op Taalniveau: In tegenstelling tot eerdere benaderingen op modelniveau, orkestreert het samenwerking tussen heterogene, zwarte-doos eindpunten (inclusief propriëtaire API's) via semantische uitwisselingen.
Doorbreken van Tradeoffs: Door geleerde routeringsbeleid dat middelenbudgetten behandelt als statische, temporele beperkingen, kan het systeem kwaliteits-latentie-kosten-balansen bereiken die onbereikbaar zijn voor statische of per-query besluitvorming.
Schaalbaarheid: Het biedt een raamwerk voor het combineren van verticale uitbesteding en horizontale multi-agent samenwerking in hybride topologieën, waardoor complexe workflows (bijv. door de cloud gecoördineerde UAV-vloten) mogelijk worden die door geen enkel eindpunt alleen kunnen worden afgehandeld.

De auteurs concluderen dat het verwezenlijken van dit visioen vooruitgang vereist in adaptieve protocollen voor heterogene ecosystemen en robuuste veiligheidsmechanismen voor gedistribueerde, autonome agenten.