In het moderne landschap van kunstmatige intelligentie fungeren grote taalmodellen steeds vaker niet als eenzame denkers, maar als leden van een team. Stel je een groep onderzoekers voor die werkt aan een complex mysterie, waarbij elk persoon slechts een andere set documenten heeft gelezen. Om de zaak op te lossen, moeten ze delen wat ze weten. In de digitale wereld zijn deze "onderzoekers" software-agenten, en de documenten die zij bezitten zijn stukjes bewijs die verborgen zitten in hun interne geheugen. Om deze agenten samen te laten werken, hebben ze een manier nodig om informatie van de een naar de ander door te geven. Tot voor kort was de standaardmethode om één agent een samenvatting in gewone Engelse tekst te laten schrijven en deze naar de volgende te sturen. Hoewel dit gemakkelijk leesbaar is voor mensen, is het inefficiënt voor machines. De verzendende agent moet de boodschap langzaam woord voor woord construeren, en de ontvangende agent moet die woorden vervolgens lezen en zijn eigen interne begrip vanaf nul weer opbouwen. Dit proces is als een estafette waarbij de hardlopers moeten stoppen, een briefje moeten schrijven, het moeten overhandigen, en dan tijd moeten besteden aan het lezen ervan voordat ze weer kunnen rennen.

Onderzoekers hebben een snellere manier verkend om te communiceren, een manier die het schrijven en lezen van woorden volledig overslaat. In plaats van tekst uit te wisselen, probeerden ze de ruwe, interne "gedachten" van de ene machine direct naar een andere over te dragen. Dit is vergelijkbaar met het overhandigen van een vooraf geschreven briefje aan een hardloper, dat hij direct kan absorberen zonder het te hoeven lezen. Echter, vroege pogingen tot deze directe overdracht liepen tegen een muur aan. Ze werkten alleen goed wanneer de twee machines identieke tweelingen waren, of ze dwongen de zender om al zijn kennis te comprimeren in één enkele, generieke samenvatting die negeerde wat de ontvanger al wist. Dit betekende dat de ontvanger vaak een bericht kreeg dat ofwel te vaag, ofwel irrelevant was voor zijn specifieke behoeften. De uitdaging was om een communicatiekanaal te creëren dat snel was, werkte tussen verschillende soorten machines, en de ontvanger in staat stelde om precies de informatie op te vragen die hij nodig had, in plaats van een eenheidsworst-samenvatting te accepteren.

Een team van onderzoekers heeft nu een nieuw systeem geïntroduceerd genaamd XKV dat deze problemen oplost. Hun aanpak behandelt de communicatie tussen twee verschillende taalmodellen als een gezamenlijke inspanning in plaats van een eenvoudige overdracht. In hun systeem blijven de twee modellen — de één die een deel van de puzzel vasthoudt en de ander die de rest vasthoudt — in hun oorspronkelijke staat bevroren, wat betekent dat hun kernintelligentie niet wordt gewijzigd. In plaats daarvan zit er een lichtgewicht vertaler tussen hen in. Deze vertaler kijkt tegelijkertijd naar het interne geheugen van beide modellen. Het vat niet alleen samen wat het eerste model weet; het bepaalt wat het tweede model mist door de twee sets geheugens met elkaar te vergelijken. Vervolgens creëert het een compacte, gedeelde geheugenbank die het bewijs van de zender mengt met de huidige staat van de ontvanger.

De innovatie ligt in de manier waarop dit gedeelde geheugen wordt gebruikt. In eerdere systemen werd elk deel van het ontvangende model gedwongen om naar dezelfde enkele samenvatting te luisteren, zoals een klas waar elke leerling exact dezelfde lezing hoort, ongeacht wat hij al begrijpt. Het nieuwe XKV-systeem stelt elk afzonderlijk positie in het geheugen van de ontvanger in staat om een specifieke vraag te stellen aan deze gedeelde bank. Het is alsof elke leerling in de klas zijn hand kan opsteken om de specifieke feit die hij mist op te vragen, en de leraar zou precies datgene leveren. Het systeem levert vervolgens een precieze, op maat gemaakte update aan elk deel van het geheugen van de ontvanger, waardoor de hiaten worden opgevuld zonder de rest van zijn kennis te verstoren. Dit proces vindt plaats in een fractie van de tijd die het kost om een tekstbericht te schrijven en te lezen, en het werkt zelfs wanneer de twee modellen gebouwd zijn op totaal verschillende architecturen, verschillende vocabulaires gebruiken of een verschillend aantal interne lagen hebben.

De onderzoekers testten dit systeem in een breed scala aan scenario's, waarbij ze verschillende families van taalmodellen tegen elkaar uit Speelden op vijf verschillende redeneertaken. Deze taken hielden het beantwoorden van vragen in die vereisten dat bewijsmateriaal dat verdeeld was tussen de twee agenten werd gecombineerd, zoals het verbinden van feiten uit verschillende paragrafen om een meerstaps-probleem op te lossen. De resultaten lieten zien dat het nieuwe systeem consequent beter presteerde dan zowel de traditionele tekstgebaseerde methode als de vorige beste poging tot directe gehementransfer. Gemiddeld verbeterde het nieuwe systeem de nauwkeurigheid van de antwoorden aanzienlijk, waarbij sommige specifieke tests een sprong van meer dan vier procentpunten lieten zien in exacte match-scores vergeleken met de vorige beste methode. Naast het simpelweg slimmer zijn, was het ook drastisch sneller. Het vertaler-component van het nieuwe systeem liep meer dan tien keer sneller dan de vorige leidende methode en was bijna zeven keer sneller dan de standaard tekstgebaseerde aanpak.

De studie benadrukte ook dat deze snelheid niet ten koste ging van de complexiteit. De nieuwe vertaler vereiste 76 procent minder trainbare parameters dan de vorige leidende methode, waardoor het veel efficiënter is om te bouwen en te draaien. Cruciaal was dat het systeem zijn hoge prestaties behield, zelfs wanneer de twee communicerende modellen totaal verschillend van elkaar waren, zoals een model van het ene bedrijf dat praat met een model van een ander bedrijf, of een kleiner model dat met een groter model praat. Deze flexibiliteit suggereert dat het systeem kan worden ingezet in real-world scenario's waar diverse AI-tools moeten samenwerken zonder dat ze opnieuw getraind of in een uniforme vorm gedwongen hoeven te worden. De onderzoekers ontdekten dat het systeem het beste werkte wanneer het een gezamenlijk geheugen kon opbouwen vanuit beide kanten, in plaats van te vertrouwen op een samenvatting van slechts één kant. Dit bevestigde dat de meest effectieve communicatie plaatsvindt wanneer de zender en de ontvanger samen worden beschouwd, waardoor de ontvanger precies kan ophalen wat hij nodig heeft uit een gedeelde informatiebron.

De implicaties van dit werk reiken verder dan alleen het sneller maken van AI. Door de noodzaak weg te nemen voor modellen om in menselijke taal te spreken om elkaar te begrijpen, opent het systeem de deur naar meer vloeiende en efficiënte multi-agent-systemen. Deze systemen zouden complexe taken kunnen coördineren, zoals het analyseren van enorme hoeveelheden gegevens of het oplossen van ingewikkelde wetenschappelijke problemen, zonder de bottleneck van het genereren en herlezen van tekst. De onderzoekers hebben aangetoond dat het mogelijk is om een communicatiekanaal te creëren dat zich bewust is van de staat van de ontvanger, specifieke updates ophaalt uit een gedeeld geheugen, en strikt goedkoper en sneller blijft dan de zender-centrische samenvattingen die het vervangt. Dit vertegenwoordigt een verschuiving van het behandelen van AI-agenten als geïsoleerde entiteiten die hun gedachten in woorden moeten vertalen, naar het behandelen van hen als een samenhangend netwerk dat direct ruwe begripsvorming kan delen. De bevindingen suggereren dat de toekomst van collaboratieve kunstmatige intelligentie misschien niet ligt in betere taal, maar in betere manieren om de stille, interne staten te delen die de intelligentie aandrijven.