🤖 AI

Benchmarking Open-Ended Multi-Agent Coordination in Language Agents

Questo articolo introduce *alem*, un benchmark basato su JAX per valutare la coordinazione multi-agente open-ended in compiti di sopravvivenza a lungo termine, rivelando che, sebbene i modelli LLM all'avanguardia eccellano nei compiti individuali, essi faticano significativamente con la coordinazione — un collo di bottiglia distinto dove la comunicazione si rivela critica e le prestazioni variano ampiamente tra i modelli.

Autori originali: Kale-ab Abebe Tessera, Andras Szecsenyi, Cameron Barker, Alexander Rutherford, Davide Paglieri, Aidan Scannell, Henry Gouk, Elliot J. Crowley, Tim Rocktäschel, Amos Storkey

Pubblicato 2026-06-09

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Kale-ab Abebe Tessera, Andras Szecsenyi, Cameron Barker, Alexander Rutherford, Davide Paglieri, Aidan Scannell, Henry Gouk, Elliot J. Crowley, Tim Rocktäschel, Amos Storkey

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immaginate un gruppo di esploratori che cerca di sopravvivere in una natura selvaggia vasta e in continua evolità. Devono tagliare la legna, estrarre pietre, costruire rifugi e combattere i mostri. Ma ecco il problema: non possono farlo da soli. A volte, devono tagliare un albero esattamente nello stesso momento per farlo cadere. Altre volte, una persona deve iniziare a scavare un buco e un'altra deve finirlo entro pochi secondi, o il buco crolla.

Questo articolo introduce un nuovo "campo di addestramento" chiamato ALEM (che significa "mondo" in amarico) per testare quanto bene gli agenti IA possano lavorare insieme in un gioco di sopravvivenza di questo tipo, caotico e a lungo termine.

Il Problema: Stelle Soliste vs Giocatori di Squadra

Fino ad ora, la maggior parte dei test per l'IA è stata come i videogiochi per giocatore singolo. Chiedono: "L'IA sa risolvere un puzzle?" o "Sa navigare in un labirinto?". Ma nel mondo reale, l'IA dovrà lavorare in squadra. Gli autori hanno notato che i test esistenti per il lavoro di squadra erano troppo semplici: erano brevi, le regole erano fisse o i membri del team non dovevano comunicare molto tra loro.

Volevano vedere se l'IA moderna (i Large Language Models, o LLM) potesse gestire la coordinazione a lungo termine. Riescono a ricordare un piano fatto 50 passi fa? Possono parlare con un compagno per dire: "Io vado a sinistra, tu vai a destra"? Possono adattarsi quando la situazione cambia?

La Soluzione: ALEM (Il Simulatore di Sopravvivenza)

Gli autori hanno costruito ALEM, un mondo digitale basato su un gioco chiamato Craftax. Pensatelo come una versione tecnologica avanzata di Minecraft o Terraria, ma con un tocco speciale:

Generazione Procedurale: Ogni volta che il gioco inizia, la mappa e le sfide specifiche di lavoro di squadra vengono generate casualmente. Questo impedisce all'IA di limitarsi a "memorizzare" le risposte.
Lo "Spettro della Coordinazione": Il gioco ha un cursore che controlla quanto sia difficile il lavoro di squadra.
- Facile: Puoi lavorare per conto tuo per la maggior parte del tempo.
- Medio: Devi passarti gli strumenti (come passare un martello a qualcuno che sta costruendo un muro).
- Difficile: Devi agire in perfetta sincronia, come una squadra di nuoto sincronizzato, altrimenti il compito fallisce.
Specializzazione Morbida: In questo mondo, chiunque può fare qualsiasi lavoro, ma se non sei lo "specialista" per quel compito, potresti fallire. Questo costringe la squadra a capire chi deve fare cosa sul momento.

L'Esperimento: 13 Agenti IA contro il Mondo

I ricercatori hanno inserito 13 diversi modelli di IA moderna in questo mondo. Non hanno insegnato loro come giocare; li hanno semplicemente calati nel mondo (questo si chiama "zero-shot"). Hanno anche addestrato alcuni agenti "robot" (usando il classico apprendimento per rinforzo) per fungere da termine di paragone per ciò che è possibile ottenere.

I Risultati sono stati sorprendenti:

L'IA ha faticato: In media, gli agenti IA hanno raggiunto solo circa il 6% del punteggio possibile. Erano lontani dal risolvere il gioco.
Essere intelligenti da soli non significa essere intelligenti insieme: Alcuni modelli di IA erano bravissimi a svolgere compiti da soli (come raccogliere legna) ma terribili nel coordinarsi. Un modello, GPT-5.4, era molto bravo nei compiti di base ma falliva miseramente quando doveva sincronizzarsi con i compagni. Un altro modello, Gemini-3.1, era molto più bravo nel lavoro di squadra, superando persino alcuni degli agenti robot addestrati negli scenari più difficili.
La dimensione non è tutto: Modelli di IA più grandi (con più "potenza cerebrale") non erano necessariamente migliori nel lavoro di squadra. A volte, un modello più piccolo coordinava meglio di uno gigante.

Il "Perché": Cosa rende difficile il lavoro di squadra?

I ricercatori hanno smontato gli agenti IA per vedere cosa stesse causando i fallimenti. Hanno scoperto tre ingredienti principali:

La Comunicazione è Regina: Quando hanno spento la capacità degli agenti di parlare tra loro, i punteggi del lavoro di squadra sono crollati. Gli agenti IA usavano la chat per dire cose come: "Sto andando verso l'albero, tu aspetta qui" o "Dammi del legno". Senza questo, stavano solo tirando a indovinare.
La Memoria serve per Pianificare: L'IA aveva un "blocco note" (un taccuino privato). I modelli migliori usavano questo taccuino per scrivere piani futuri (es. "Passo 1: Estrai pietra. Passo 2: Costruisci fornace"). I modelli più deboli usavano il taccuino solo per ripetere ciò che vedevano in quel momento, il che non aiutava a pianificare in anticipo.
Il Ragionamento Aiuta: Quando l'IA veniva costretta a "pensare" prima di agire, otteneva risultati migliori sia nei compiti singoli che nel lavoro di squadra.

La Sorpresa del "Team Misto"

I ricercatori hanno anche provato a mescolare diversi modelli di IA in un unico team (ad esempio, un agente Gemini che lavora con un agente GPT). Si aspettavano che il team fosse buono quanto il membro più intelligente. Invezione, il team ha performato alla media dei due. Si scopre che avere un compagno di squadra super intelligente non serve a nulla se l'altro compagno non capisce il piano o lo stile di comunicazione.

Il Punto Fondamentale

Questo articolo dimostra che la coordinazione è una competenza unica che l'IA attuale non ha ancora padroneggiato. Il fatto che un'IA sia brava a rispondere a domande o a risolvere enigmi da sola non significa che possa lavorare in un team.

ALEM fornisce un modo controllato per misurare questo specifico "collo di bottiglia della coordinazione". Dimostra che per costruire un'IA capace di lavorare davvero con gli umani o con altre IA nel mondo reale, dobbiamo concentrarci meno sul renderle solo più intelligenti nei compiti individuali e più sull'insegnare loro come comunicare, pianificare insieme e fidarsi l'una dell'altra.

Il codice per questo "simulatore di sopravvivenza" è ora aperto affinché altri ricercatori possano usarlo e migliorarlo.

Riepilogo Tecnico: Benchmarking della Coordinazione Multi-Agente Open-Ended in Agenti Linguistici

Problema

Man mano che i Large Language Models (LLM) vengono sempre più impiegati come agenti autonomi, essi devono operare in contesti multi-agente dove il successo dipende dalla coordinazione con altri su orizzonti temporali lunghi. Tuttavia, le valutazioni esistenti raramente testano queste richieste simultaneamente. I benchmark attuali si concentrano tipicamente su compiti a singolo agente, interazioni brevi o contesti multi-agente altamente strutturati (ad esempio, ruoli fissi, obiettivi predefiniti). Manca una valutazione che combini l'interazione a lungo termine, strutture di task open-ended e richieste di coordinazione esplicite e proceduralmente generate. Di conseguenza, i meccanismi necessari per una coordinazione multi-agente sostenuta — come comunicare l'intento, allocare i ruoli, mantenere piani condivisi e allineare le azioni nel tempo — rimangono scarsamente compresi.

Metodologia: Il Benchmark ALEM

Per affrontare queste lacune, gli autori introducono ALEM (Alem significa "mondo" in Amharico), un benchmark basato su JAX per la coordinazione multi-agente open-ended costruito su dinamiche simili a Craftax.

Design dell'Ambiente

ALEM è un gioco stocastico parzialmente osservabile (POSG) caratterizzato da ambienti generati proceduralmente dove gli agenti esplorano, scambiano, costruiscono, creano e combattono. Il benchmark si distingue per quattro assi chiave:

Generazione Procedurale della Coordinazione: A differenza del lavoro precedente dove i requisiti di coordinazione sono fissi, ALEM genera proceduralmente la struttura della coordinazione stessa in ogni episodio. I compiti (estrazione, costruzione, combattimento, creazione) ricevono tipi di coordinazione (sincrona o handover) e conteggi di agenti richiesti (da 2 a N).
Spettro di Coordinazione: Il benchmark copre un intero spettro di accoppiamento della coordinazione basato sulla separazione temporale ( $\Delta t$ $Δ t$ ) tra le azioni accoppiate:
- Lungo raggio: Un agente raccoglie risorse che un altro utilizzerà in seguito (ampio $\Delta t$ ).
- Handover: Un agente avvia un compito e un altro deve completarlo entro una finestra temporale breve (piccolo $\Delta t$ ).
- Sincrona: Gli agenti agiscono sullo stesso bersaglio nello stesso istante temporale ( $\Delta t = 0$ ).
Specializzazione Soft: Invece di vincoli di ruolo rigidi, gli agenti hanno una specializzazione "soft". Gli specialisti hanno successo in modo deterministico, mentre i non specialisti hanno successo con probabilità $1-\alpha$ . Questo premia l'allocazione efficace dei ruoli consentendo al contempo l'adattamento online.
Difficoltà Controllabile: Un singolo parametro scalare $\alpha \in [0, 1]$ scala la difficoltà della coordinazione senza alterare il layout sottostante del mondo. Un $\alpha$ più elevato stringe i vincoli di esecuzione (ad esempio, finestre di handover più brevi, requisiti di N-agenti più elevati, minore efficienza dei non specialisti).

Protocollo di Valutazione

Gli autori hanno valutato 13 moderni LLM in team omogenei zero-shot attraverso impostazioni Easy, Medium e Hard.

Modelli: Includevano modelli proprietari (GPT-5.4-High, Gemini-3.1-Pro-High) e modelli open-weight (Gemma-4, Llama-3.1/3.3, Qwen-3.5/3.6).
Baseline: Agenti Multi-Agent Reinforcement Learning (MARL) addestrati (IPPO, MAPPO, PQN-VDN, HyperMARL-IPPO) per fino a 1 miliardo di step sono serviti come punti di riferimento.
Interfacce: Gli agenti interagivano tramite un'interfaccia testuale strutturata che riceveva osservazioni, messaggi dei compagni di squadra e uno scratchpad, restituendo azioni strutturate.
Metriche: Le prestazioni sono state misurate tramite il ritorno normalizzato dell'episodio, scomposto in Base% (progresso del compito individuale) e Coord.% (risultati specifici della coordinazione).

Risultati Chiave

1. La Coordinazione è un Collo di Bottiglia Distinto

Gli attuali agenti LLM rimangono lontani dal risolvere ALEM, con una media di circa il 6% di ritorno normalizzato attraverso le diverse difficoltà.

Competenza Base vs. Coordinazione: Un'alta competenza nel compito base non implica una competenza nella coordinazione. Ad esempio, GPT-5.4-High ha ottenuto forti ricompense nei compiti base ma ricompense di coordinazione significativamente inferiori rispetto a modelli più piccoli come Gemma-4-26B-A4B-it.
Confronto con MARL: Nell'impostazione più difficile, Gemini-3.1-Pro-High (17.5% Coord.%) si è avvicinato alle prestazioni degli agenti MARL addestrati per un miliardo di step (17.6% Coord.%), dimostrando che, sebbene gli LLM fatichino, i migliori modelli possono raggiungere livelli di coordinazione vicini a quelli dei MARL in contesti specifici.

2. Studi di Ablazione sugli Elementi dell'Agente

Gli autori hanno effettuato l'ablazione di tre componenti dell'harness dell'agente per determinare il loro impatto sulla coordinazione:

Comunicazione: È stato il maggior contributore alla performance di coordinazione. Rimuovere la comunicazione ha causato il calo più significativo del Coord.% (ad esempio, Gemini-3.1-Pro-High è sceso dal 17.5% al 5.3%). Gli agenti usavano la comunicazione principalmente per trasmettere l'intento, assegnare azioni e allineare il timing.
Memoria (Scratchpad): L'utilità della memoria era dipendente dal modello. Gemini-3.1-Pro-High utilizzava gli scratchpad come pianificatori proiettivi (piani multi-riga, al tempo futuro, indicizzati per turno), e rimuoverli ha danneggiato le prestazioni. Gemma-4-31B-it utilizzava gli scratchpad principalmente per riassunti dello stato, e l'impatto della rimozione è stato trascurabile.
Ragionamento: Ridurre il ragionamento ha abbassato sia il Base% che il Coord.% per entrambi i modelli. L'analisi qualitativa ha mostrato che la riduzione del ragionamento eliminava i comportamenti di tipo pianificatore (ad esempio, piani indicizzati per turno) e portava a una comunicazione più breve e meno direttiva.

3. Team Eterogenei

Negli esperimenti iniziali con team eterogenei (mischiando diversi modelli), le prestazioni sono state vicine alla media delle baseline omogenee costituenti, piuttosto che eguagliare il membro più forte. Ciò suggerisce che l'aggiunta di un modello più forte non solleva automaticamente la performance del team, probabilmente a causa del disallineamento nelle convenzioni di comunicazione e negli orizzonti di pianificazione.

4. Modalità di Fallimento

Struttura del Compito: Gli agenti hanno faticato maggiormente con i compiti Synchronous-Hard che richiedevano azioni simultanee, ottenendo solo il ~18% di copertura anche per il miglior LLM. I compiti di Handover sono stati comparativamente più accessibili.
Scala: Le prestazioni non sono scalate linearmente con il numero di parametri. All'interno delle famiglie di modelli (ad esempio, Gemma-4, Qwen), la performance di coordinazione variava in modo non monotono tra le varianti dense e quelle Mixture-of-Experts.

Significato e Contributi

Il paper apporta tre contributi primari:

Benchmark ALEM: Un benchmark basato su JAX, proceduralmente generato, per la coordinazione multi-agente a lungo termine e open-ended con difficoltà controllabile e specializzazione soft.
Interfacce: Fornitura di interfacce pixel, simboliche e testuali per valutare sia agenti MARL che agenti LLM zero-shot sotto carichi di coordinazione corrispondenti.
Valutazione Sistematica: Una valutazione completa di 13 LLM e 4 baseline MARL, identificando la coordinazione come un collo di bottiglia distinto rispetto alla competenza del compito base.

Gli autori concludono che la coordinazione è un collo di bottiglia distinto per gli agenti LLM di frontiera. Sebbene i modelli attuali possano sopravvivere e svolgere compiti individuali, falliscono nell'effettuare una comunicazione efficace, nell'allocare i ruoli e nell'eseguire piani condivisi in contesti open-ended a lungo termine. ALEM fornisce un banco di prova misurabile e controllato per sviluppare agenti capaci di questi complessi comportamenti cooperativi. Il codice è disponibile all'indirizzo https://github.com/alem-world/alem-env.