🤖 AI

Speaking Your Language: Spatial Relationships in Interpretable Emergent Communication

Dit artikel toont aan dat agenten een interpreteerbare emergente taal kunnen ontwikkelen die in staat is ruimtelijke relaties met hoge nauwkeurigheid uit te drukken, gebruikmakend van een mix van compositionele en niet-compositionele berichten die succesvol worden begrepen door zowel kunstmatige ontvangers als mensen.

Oorspronkelijke auteurs: Olaf Lipinski, Adam J. Sobey, Federico Cerutti, Timothy J. Norman

Gepubliceerd 2026-06-16

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Olaf Lipinski, Adam J. Sobey, Federico Cerutti, Timothy J. Norman

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een spelletje "Raad het Voorwerp" speelt met een vriend, maar je ziet niet dezelfde dingen. Jij kijkt naar een lange rij genummerde tegels, maar je kunt slechts een klein venster van vijf tegels tegelijk zien. Je vriend ziet de hele rij en een paar andere willekeurige getallen. Jouw taak is om een korte, geheime code naar je vriend te sturen, zodat hij precies de tegel kan uitkiezen waar jij naar kijkt.

Dit artikel gaat over het aanleren van een computerprogramma (een "agent") om een eigen geheime taal uit te vinden om dit spel te spelen. Maar in plaats van alleen maar codes te memoriseren voor elke afzonderlijke tegel, wilden de onderzoekers zien of de computers zouden leren om ruimtelijke relaties te gebruiken — in feite leren zeggen dingen als "het getal links van 5" of "de tegel aan het begin".

Hier is hoe het verhaal zich ontvouwt, uitgelegd met enkele alledaagse analogieën:

1. De Opstelling: Het "Venster"-probleem

Beschouw de reeks getallen als een lange trein. De "Sender" (zender) agent staat op een perron met een klein venster waardoor hij slechts vijf treinwagons tegelijk kan zien. Een van die wagons heeft een speciaal teken (een -1) dat de doelwit aanwijst. De "Receiver" (ontvanger) agent ziet de hele trein en een lijst van vier mogelijke wagons (één correct, drie fout).

De Sender weet niet waar de trein begint of eindigt, alleen wat er in zijn kleine venster zit. Om de Receiver te vertellen welke wagon het doelwit is, kan de Sender niet simpelweg zeggen "Het is wagon #12", omdat hij het globale nummer niet weet. Hij moet het doelwit beschrijven ten opzichte van wat hij ziet, zoals: "Het is de wagon direct na de wagon met het getal 4."

2. De Ontdekking: Twee Typen "Woorden"

De onderzoekers lieten de agents dit spel duizenden keren spelen. Ze hebben de agents niet Engels geleerd; de agents moesten hun eigen symbolen uitvinden (getallen van 1 tot 26). Na de training waren de agents ongelooflijk goed in het spel geworden en kregen ze meer dan 90% van de antwoorden goed.

Maar de echte vraag was: Hoe ziet hun taal eruit? Om dit te achterhalen, gebruikten de onderzoekers een statistisch hulpmiddel genaamd NPMI (denk aan het als een "woordassociatie-detector") om te zien welke symbolen gekoppeld waren aan welke situaties. Ze ontdekten dat de agents twee verschillende stijlen van communicatie hadden ontwikkeld:

Stijl A: De "Snelkoppeling" (Niet-compositioneel)

Soms gebruikten de agents een enkele, unieke code voor een zeer specische situatie.

Analogie: Stel dat je een speciaal handgebaar hebt dat betekent: "Ik sta aan het begin van de rij." Je zou niet zeggen "Ik ben aan het begin"; je zou gewoon het gebaar maken.
In het artikel: De agents creëerden specifieke codes voor zeldzame gebeurtenissen, zoals wanneer het doelwit aan het begin of het einde van de reeks zat. Omdat deze situaties zeldzaam zijn, is het efficiënter om één speciale "woord" voor hen te hebben dan een complexe zin te bouwen.

Stijl B: De "Lego-blokjes" (Compositioneel)

De meeste tijd gebruikten de agents een mix-en-match aanpak. Ze combineerden verschillende symbolen om een betekenis te bouwen.

Analogie: Denk aan het bouwen van een zin met Lego-steentjes. Eén steentje betekent "2 stappen naar rechts," en een ander steentje betekent "het getal 18." Als je ze in de juiste volgorde aan elkaar klikt, krijg je de boodschap: "Het doelwit is 2 stappen naar rechts van 18."
In het artikel: De agents leerden dat de positie van het symbool in de boodschap belangrijk was. Als het symbool voor "2 stappen rechts" in de eerste positie stond, betekende dat één ding; als het in de tweede positie stond, kon het iets anders betekenen. Dit is een primitieve vorm van syntaxis (grammatica), waarbij de woordvolgorde de betekenis verandert.

3. Het Bewijs: Kunnen Mensen het Begrijpen?

De onderzoekers gokten niet alleen wat de agents bedoelden. Ze testten hun theorie door een "woordenboek" te maken op basis van hun statistische analyse. Vervolgens gebruikten ze dit woordenboek om berichten naar de Receiver-agent te sturen.

De Test: Ze namen de "Lego-blokjes" die de agents hadden uitgevonden, assembleerden ze in nieuwe berichten volgens de regels die ze hadden ontdekt, en stuurden deze naar de Receiver.
De Resultaten: De Receiver begreep deze door mensen samengestelde berichten in meer dan 78% van de gevallen correct. Dit bewijst dat de agents niet alleen willekeurige ruis gebruikten; ze hadden een gestructureerde, interpreteerbare taal ontwikkeld die mensen konden ontcijferen.

4. Waarom is dit Belangrijk?

Het artikel betoogt dat dit een grote zaak is, omdat eerdere experimenten met AI-communicatie vaak resulteerden in talen die weliswaar efficiënt waren, maar volledig onbegrijpelijk voor mensen — zoals een geheime code die zelfs de makers niet konden kraken.

Door de agents te dwingen om over ruimtelijke relaties te praten (links, rechts, begin, einde), hebben de onderzoekers de AI ertoe gebracht een taal te ontwikkelen die een fundamenteel onderdeel van de menselijke spraak weerspiegelt: deixis (verwijzen naar zaken in de ruimte of tijd). Het laat zien dat zelfs in een eenvoudig spel, AI in staat is om grammatica-achtige structuren en ruimtelijke verwijzingen te leren, wat hun communicatie transparanter en betrouwbaarder maakt.

Samenvatting

Het artikel laat zien dat wanneer AI-agents worden gedwongen om te beschrijven waar dingen zich bevinden ten opzichte van andere dingen, ze van nature een taal uitvinden die zowel speciale snelkoppeling-codes voor zeldzame gebeurtenissen als mix-en-match grammaticale structuren voor veelvoorkomende gebeurtenissen gebruikt. En het beste van alles: we kunnen hun woordenboek daadwerkelijk lezen en begrijpen wat ze zeggen.

Technische Samenvatting: Spreken in uw taal: Ruimtelijke relaties in interpreteerbare emergente communicatie

Probleemstelling
Onderzoek naar emergente communicatie heeft succesvol aangetoond dat agenten efficiënte en compositionele talen kunnen ontwikkelen. Er blijft echter een aanzienlijke kloof bestaan in de opkomst van deixis—specifiek ruimtelijke deixis (bijv. "naast", "links van")—die het mogelijk maakt voor agenten om naar specifieke delen van een observatie te verwijzen ten opzichte van andere delen. Hoewel eerder werk temporele deixis (het herhalen van observaties) heeft onderzocht, heeft geen enkel voorgaand onderzoek aangetoond dat er relatieve verwijzingen naar specifieke locaties binnen een observatie kunnen ontstaan. Het ontbreken van dergelijke ruimtelijke verwijzingen beperkt de efficiëntie van communicatie, omdat agenten de gedeelde omgevingscontext niet kunnen benutten om de noodzaak voor gedetailleerde, unieke objectbeschrijvingen te verminderen. Bovendien belemmert het gebrek aan syntactische structuren zoals ruimtelijke verwijzingen de interpreteerbaarheid van emergente talen voor mensen.

Methodologie
De auteurs stellen een aangepaste referentiële spel-omgeving voor om de opkomst van ruimtelijke communicatie te forceren.

Omgeving: Het spel houdt een zender en een ontvanger in. De zender observeert een venster van lengte 5 uit een langere, willekeurig gegenereerde reeks gehele getallen ( $s$ ). Eén geheel getal in het venster is gemaskeerd met een waarde van -1, wat het doelwit (target) vertegenwoordigt. De zender kent de absolute positie van het doelwit in de volledige reeks $s$ niet (die alleen zichtbaar is voor de ontvanger), maar moet het doelwit identificeren met behulp van relatieve positionele informatie.
Ruimtelijke Noodzaak: Omdat het venster van de zender een verschuivend venster is, is de absolute positie van het doelwit onbekend. Om het doelwit te communiceren, moet de zender de positie ervan beschrijven ten opzichte van andere zichtbare gehele getallen (bijv. "het gehele getal twee naar rechts van 15").
Agent Architectuur: De agenten maken gebruik van een standaard Emergent Communication (EGG) architectuur. De zender gebruikt een GRU om de observatievector te coderen en een tweede GRU met Gumbel-Softmax reparameterisatie om een discrete berichtvector van lengte 3 te genereren. De ontvanger verwerkt het bericht en de volledige reeks $s$ met behulp van een aangepaste GRU-architectuur om de index van het doelwit onder afleiders te voorspellen.
Analyse Framework: Om de emergente taal te interpreteren, gebruiken de auteurs Normalised Pointwise Mutual Information (NPMI), een collocatiemaatstaf uit de computationele taalkunde. Zij ontwikkelen twee specifieke algoritmen:
1. $PMI_{nc}$ : Identificeert niet-compositionele (monolithische) berichten die direct naar specifieke observatietypen mappen (bijv. "begin", "einde").
2. $PMI_{c}$ : Identificeert compositionele berichten door n-grammen (unigrammen en bigrammen) en hun associatie met specifieke gehele getallen en relatieve posities te analyseren. Dit algoritme houdt rekening met positievariantie (waar de betekenis van een n-gram afhangt van de positie in het bericht) en positie-invariantie.

Belangrijkste Bijdragen

Demonstratie van Ruimtelijke Deixis: Het artikel levert het eerste bewijs dat agenten spontaan een taal kunnen ontwikkelen die in staat is om ruimtelijke relaties (relatieve posities) binnen hun observaties uit te drukken.
Hybride Taalstructuur: De analyse laat zien dat agenten niet vertrouwen op één enkele strategie. In plaats daarvan ontwikkelen ze een mengeling van:
- Niet-compositionele verwijzingen: Gebruikt voor schaarse, specifieke observatietypen (bijv. wanneer het doelwit aan het begin of einde van de reeks staat). Dit zijn efficiënte, monolithische tokens.
- Compositionele verwijzingen: Gebruikt voor algemene gevallen, waarbij agenten een positionele indicator (bijv. "2 naar rechts") combineren met een identificerend geheel getal (bijv. "15").
Interpreteerbaarheid via NPMI: De auteurs introduceren een methode om emergente berichten te segmenteren en te interpreteren zonder vooraf gedefinieerde labels. Door n-grammen te mappen aan gehele getallen en relatieve posities met behulp van NPMI, construeren zij een voor mensen leesbaar woordenboek van de taal van de agenten.
Validatie van Syntactische Structuur: De analyse suggereert de opkomst van een eenvoudige syntactische structuur waarbij specifieke n-grammen vaste posities innemen binnen het bericht om specifieke betekenissen over te dragen (bijv. een positionele indicator die altijd in de eerste slot verschijnt).

Resultaten

Taakprestaties: Agentparen behaalden meer dan 98% nauwkeurigheid op de referentietaak, wat bevestigt dat zij er succesvol in zijn geslaagd om ruimtelijke relaties te communiceren.
Opkomstpercentages:
- Niet-compositionele positionele berichten (bijv. "begin", "einde") kwamen voort in 99,3% van de agentparen.
- Compositionele ruimtelijke verwijzingen kwamen voort in 25% van de agentparen.
Interpretatienauwkeurigheid:
- Wanneer de ontvanger wordt getest met een woordenboek afgeleid van niet-compositionele positionele berichten, behaalde de ontvanger >90% nauwkeurigheid (tot 94%), wat aanzienlijk boven de kanslijn van 20% ligt.
- Wanneer de ontvanger wordt getest met compositionele berichten die zowel het geïdentificeerde gehele getal als de positionele componenten bevatten (Compositional-P), behaalde de ontvanger in de beste gevallen >78% nauwkeurigheid (gemiddeld 30% met een hoge variantie), wat de random baseline en de versie waar de positionele componenten werden gemaskeerd (Compositional-NP) aanzienlijk overtreft.
Validatie van Hypothesen:
- H1 (Niet-triviale compositionaliteit): Ondersteund. Niet-compositionele berichten werden met hoge nauwkeurigheid geïnterpreteerd, wat aangeeft dat zij niet vertrouwen op complexe, contextafhankelijke functies.
- H2 (Positionele componenten): Ondersteund. Het opnemen van de geïdentificeerde positionele componenten in het woordenboek verhoogde de nauwkeurigheid aanzienlijk vergeleken met het uitsluiten ervan, wat bewijst dat de NPMI-methode succesvol de ruimtelijke betekenis heeft gevangen.

Betekenis en Claims
Het artikel claimt de eerste gerapporteerde emergente taal te bevatten die ruimtelijke verwijzingen bevat, waarmee een gat in de literatuur betreffende deixis wordt gedicht. De auteurs stellen dat de opkomst van deze verwijzingen aantoont dat zelfs in eenvoudige referentiële spellen, zorgvuldige omgevingsontwerp fundamentele eigenschappen van natuurlijke taal kan oproepen, zoals syntaxis en ruimtelijk redeneren.

De studie stelt dat de keuze van de agenten om niet-compositionele berichten te gebruiken voor schaarse observatietypen (zoals "begin" of "einde") wordt gedreven door linguïstische parsimonie en efficiëntie; deze zeldzame gebeurtenissen kunnen efficiënter worden gecommuniceerd via enkele tokens dan via compositionele structuren. Daarentegen suggereert de opkomst van compositionele structuren voor veelvoorkomende gevallen een beweging naar generaliseerbare, mens-interpreteerbare communicatie.

De auteurs concluderen dat hun NPMI-gebaseerde analyse methode succesvol de kloof overbrugt tussen black-box emergente communicatie en menselijk begrip, door een woordenboek te creëren dat mensen in staat stelt de ruimtelijke logica van de agenten met hoge getrouwheid te interpreteren. Zij suggereren dat dit werk bijdraagt aan het bredere doel om emergente talen af te stemmen op de eigenschappen van natuurlijke taal om het vertrouwen en de generaliseerbaarheid in multi-agent systemen te verbeteren.