🤖 AI

SwarmResearch: Orchestrating Coding Agents for Open-Ended Discovery

SwarmResearch introduce un framework orchestratore-sottoagente che mitiga i limiti di convergenza dei singoli agenti di codifica a lunga esecuzione utilizzando un Agente Pastore per guidare una popolazione di Agenti di Ricerca isolati dal contesto, ottenendo così una scoperta aperta superiore attraverso il parallelismo adattivo e un'esplorazione di livello superiore.

Autori originali: Yuvraj Virk, Zack Edds, Chunqiu Steven Xia, Lingming Zhang

Pubblicato 2026-07-07

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Yuvraj Virk, Zack Edds, Chunqiu Steven Xia, Lingming Zhang

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di voler inventare un modo nuovo e super veloce per cuocere una torta. Hai a disposizione un team di pasticceri brillanti (gli agenti di codice AI), ma vuoi che trovino la ricetta migliore possibile, non solo una leggermente migliore.

Il documento presenta un nuovo modo per organizzare questi pasticceri chiamato SWARMRESEARCH. Ecco come funziona, usando semplici analogie:

Il Problema: La trappola della "Mente a binario unico"

In passato, se chiedevi a un singolo pasticciere AI di migliorare una ricetta, il processo era questo:

Prova un nuovo ingrediente.
Lo assaggia. Se è buono, lo tiene. Se è cattivo, lo scarta.
Fa questo ripetutamente, apportando minuscoli ritocchi alla stessa ricetta per ore.

Il Problema: Il pasticciere rimane bloccato in un "ottimo locale". Continua a perfezionare una "torta al cioccolato" perché è già piuttosto buona, ma non si rende conto che passare a un approccio tipo "torta al limone" potrebbe essere 10 volte più veloce. È troppo concentrato sui piccoli dettagli del percorso attuale per vedere un percorso completamente nuovo e migliore. Inoltre, tende a dimenticare le sue idee precedenti perché sta costantemente riscrivendo lo stesso singolo taccuino.

La Soluzione: L'Approccio Swarm (a Sciame)

Gli autori hanno costruito un sistema chiamato SWARMRESEARCH per risolvere questo problema. Immaginalo come una Fattoria di Ricerca con due tipi di lavoratori:

Il Pastore (Il Manager): Questa è l'AI principale. Non cuoce la torta essa stessa. Invece, osserva l'intera fattoria, vede cosa sta funzionando e decide dove inviare aiuto.
Gli Agenti di Ricerca (I Pasticceri): Questi sono i lavoratori che effettivamente cuociono la torta.

Ecco la magia di come sono organizzati:

Inizi Freschi (I Pasticceri "Esploratori"): Invece di un singolo pasticciere che lavora su un taccuino, il Pastore invia nuovi pasticceri con taccuini bianchi. A questi pasticceri "Esploratori" viene detto di ignorare la vecchia ricetta e provare idee selvagge e nuove partendo da zero. Non sono intrappolati nella mentalità della "torta al cioccolato".
Raffinatori Specializzati (I Pasticceri "Ottimizzatori"): Se il Pastore vede un'idea nuova molto promettente (come una "torta al limone"), invia un tipo diverso di pasticciere a quel ramo specifico. Questo "Ottimizzatore" può vedere la cronologia dettagliata di quell'idea specifica per poterla lucidare fino alla perfezione.
Spazi di Lavoro Separati (I Branch di Git): Questa è la parte più importante. Ogni pasticciere lavora nella propria cucina separata (un "branch di git" separato).
- Se il Pasticcere A prova un'idea terribile, deve solo buttare via la sua cucina. Questo non rovina la cucina del Pasticcere B.
- Se il Pasticcere B scopre una tecnica brillante, il Pastore può copiare quella cucina al Pasticcere C senza che il Pasticcere C debba eliminare il proprio lavoro attuale.
- Questo evita che il team cancelli accidentalmente buone idee solo perché sta cercando di correggere un'idea sbagliata.

Come Batte la Concorrenza

Il documento ha testato questo sistema contro altri metodi (come un singolo pasticciere che lavora per molto tempo, o un gruppo di pasticceri che condividono un unico grande taccuino).

Il Risultato: Su 13 dei 15 difficili enigmi (che spaziano dai problemi matematici all'ottimizzazione di sistemi informatici), lo Swarm ha trovato soluzioni migliori rispetto agli altri.
Perché? Perché lo Swarm non si è limitato a "ritoccare" la soluzione esistente. È stato abbastanza coraggioso da provare approcci completamente diversi.
- Esempio: In un compito, i vecchi metodi si limitavano ad aggiustare leggermente la temperatura del forno. Lo Swarm ha provato a costruire un tipo di forno completamente nuovo.

Un Esempio nel Mondo Reale: Velocizzare l'AI

Gli autori hanno usato questo sistema per cercare di far "pensare" l'AI più velocemente (nello specifico, una tecnica chiamata "speculative decoding").

Il Vecchio Modo: L'AI cercava di fare piccole modifiche al codice, come cambiare una variabile qui e là. Otteneva un piccolo aumento di velocità.
Il Modo Swarm: Gli agenti dello Swarm hanno provato diverse strategie. Un agente si è reso conto che, invece di controllare ogni singola parola una alla volta, potevano controllare gruppi di parole contemporaneamente (come il batching). Un altro agente ha capito che potevano usare meno "esperti" per controllare le parole facili.
Il Risultato: Lo Swarm ha trovato un modo per rendere l'AI 4,58 volte più veloce rispetto al metodo standard, mentre gli altri metodi sono riusciti a gestire solo circa un aumento di 2x.

Il Punto Fondamentale

SWARMRESEARCH è un nuovo modo per gestire i ricercatori AI. Invece di lasciare che un'AI rimanga bloccata in un vicolo cieco, utilizza un manager per inviare molti team diversi a esplorare percorsi differenti simultaneamente. Mantiene i loro spazi di lavoro separati affinché le buone idee non vadano perse, e sa quando passare dal "provare cose nuove" al "perfezionare la cosa migliore".

È la differenza tra una persona che cerca di riparare un'auto stringendo ogni singolo bullone, e un team di meccanici che tentano simultaneamente di costruire un nuovo motore, una nuova trasmissione e un nuovo telaio, per poi scegliere la combinazione migliore.

Riepilogo Tecnico: SWARMRESEARCH

Definizione del Problema

Gli agenti di codifica a lungo termine, come i framework di autoresearch, sono in grado di scoprire persistentemente ottimizzazioni per problemi aperti. Tuttavia, gli autori osservano una modalità di fallimento critica: questi agenti tendono a convergere rapidamente su un singolo approccio di alto livello e successivamente trascorrono un tempo esteso eseguendo modifiche di basso livello e micro-ottimizzazioni all'interno di quel particolare vicinato. Questo comportamento fa sì che l'agente perda approcci superiori e distinti al problema.

Gli autori ipotizzano che questa convergenza sia causata da due specifiche scelte di design a livello di harness nei sistemi esistenti:

Accumulo di Contesto: Gli agenti accumulano lunghe cronologie di conversazione piene di incrementali raffinamenti di un singolo approccio, rendendo improbabili cambiamenti sostanziali di strategia.
Stato del Programma Singolo: Gli agenti applicano tutti i miglioramenti a un singolo programma modificabile, scartando di fatto direzioni alternative e trasformando il processo di ricerca in una ricerca locale avida (greedy local search).

Metodologia: SWARMRESEARCH

Per affrontare questi colli di bottiglia, gli autori introducono SWARMRESEARCH, un harness orchestratore-subagente progettato per facilitare la scoperta aperta (open-ended discovery). Il sistema è implementato come un insieme di skill compatibili con popolari strumenti di agenti di codifica (ad es. Claude Code).

Architettura

Il sistema consiste in due ruoli primari:

Agente Pastore (Orchestratore): Un controllore globale che gestisce una popolazione di Agenti di Ricerca. Mantiene il contesto globale (riassunti di tutti i tentativi, punteggi e approcci) e guida strategicamente la popolazione di ricerca.
Agenti di Ricerca (Subagenti): Agenti individuali responsabili dell'ideazione, implementazione, valutazione e iterazione di soluzioni. Operano con un contesto locale specifico per il compito assegnato.

Meccanismi Chiave di Design

SWARMRESEARCH impiega tre meccanismi specifici per mantenere la diversità e prevenire la convergenza prematura:

Branching basato su Git (Versioning del Programma):
- A differenza dei sistemi che modificano un singolo stato del programma, SWARMRESEARCH assegna a ogni Agente di Ricerca un nuovo branch Git.
- Il branch principale contiene solo la baseline. Gli agenti di ricerca si diramano dal baseline (per l'esplorazione from-scratch) o dal commit di un agente completato (per l'iterazione).
- Ciò consente a molteplici approcci di alto livello concorrenti di evolversi indipendentemente. Le soluzioni promettenti ma non ottimali non vengono scartate, ma preservate nei propri branch per una potenziale futura raffinazione o combinazione.
Gestione del Contesto a Livelli (Tiered):
- Contesto Locale: Gli Agenti di Ricerca operano con finestre di contesto fresche o controllate.
  - Agenti Esploratori (Explorer Agents): Partono con finestre di contesto fresche, leggendo solo il contenuto del loro worktree assegnato. Ciò evita che siano ancorati al lavoro precedente, incoraggiando l'esplorazione di alto livello.
  - Agenti Ottimizzatori (Optimizer Agents): Ereditano la cronologia della conversazione del loro agente genitore oltre al worktree. Ciò consente una raffinazione profonda e seriale quando un approccio specifico mostra segni di validità.
- Contesto Globale: L'Agente Pastore mantiene una visione globale di tutte le attività degli Agenti di Ricerca (riassunti e punteggi), ma non espone la cronologia completa delle conversazioni di tutti gli agenti a ogni subagente. Ciò evita la convergenza da "memoria condivisa" vista in altri sistemi multi-agente, dove gli agenti abbandonano collettivamente direzioni indipendenti per raffinare la singola soluzione migliore.
Scaling Guidato dall'Orchestratore:
- L'Agente Pastore gestisce dinamicamente il budget di ricerca variando il numero di agenti paralleli e le iterazioni seriali in base alla profondità della ricerca.
- Può generare ondate di Esploratori concorrenti per espandersi attraverso lo spazio delle soluzioni e passare alla generazione di Ottimizzatori quando emergono soluzioni dominanti.
- Il Pastore utilizza prompt per condividere contesto minimo e rilevante (ad es. "idee da evitare", "scoperte utili") senza prescrivere idee specifiche, mantenendo così la diversità delle idee.

Valutazione e Risultati

Gli autori hanno valutato SWARMRESEARCH su 15 compiti di ottimizzazione aperti in tre domini: Matematica, Sistemi e Algoritmi Euristici. Lo hanno confrontato con i seguenti baseline allo stato dell'arte:

EvoX: Un baseline evolutivo guidato da LLM.
CORAL: Un sistema multi-agente allo stato dell'arte che utilizza la memoria condivisa.
Fixed Scaling: Un baseline ingenuo che esegue $n$ agenti concorrenti per $k$ iterazioni seriali.

Metriche di Performance

Successo del Compito: SWARMRESEARCH ha scoperto soluzioni migliori o comparabili ai baseline in 13 compiti su 15.
- Ha superato strettamente EvoX in 13 compiti e lo ha eguagliato in 1.
- Ha superato strettamente CORAL in 10 compiti e lo ha eguagliato in 2.
Granularità dell'Esplorazione: SWARMRESEARCH ha tipicamente effettuato cambiamenti di codice da 1,7× a 3,2× più grandi (misurati come righe di codice cambiate per tentativo) rispetto ai baseline. Ciò indica una maggiore frequenza di esplorazione di approcci di alto livello piuttosto che di tuning di basso livello.
Efficienza di Scaling: In un confronto con lo scaling fisso ottimale (testando varie configurazioni $(n, k)$ ), lo scaling guidato dall'orchestratore di SWARMRESEARCH ha superato la migliore configurazione fissa in 4 compiti su 5. Il sistema ha adattato con successo il parallelismo a diverse profondità di ricerca, allocando il budget all'esplorazione ampia inizialmente e alla raffinazione seriale profonda successivamente.

Caso di Studio: Speculative Decoding

Gli autori hanno condotto un caso di studio dettagliato sull'ottimizzazione dello speculative decoding per l'inferenza di LLM.

Obiettivo: Massimizzare il throughput dei token preservando l'accuratezza nei compiti intensivi di ragionamento.
Risultati: SWARMRESEARCH ha ottenuto un'accelerazione (speedup) di 4,58× rispetto al decoding vanilla ingenuo con una precisione del 60,6% (rispetto al 65,8% del baseline).
Confronto: Nello stesso intervallo di tempo (~12 ore), autoresearch ha ottenuto solo un aumento di 1,80× e CORAL di 2,26×.
Scoperte: Il sistema ha scoperto ottimizzazioni a livello di sistema (ad es. batching dei passaggi forward target, pool di thread persistenti per la costruzione della distribuzione) e il conteggio adattivo degli esperti (MoE) che non erano presenti nei baseline. Ha anche esplorato condizioni di accettazione rilassate, sebbene alcuni tentativi innovativi (ad es. "comonotone sampling") siano risultati errati dopo una revisione rigorosa.

Significato e Rivendicazioni

L'articolo sostiene che SWARMRESEARCH dimostra che l'ingegneria dell'harness — specificamente la gestione del contesto e del versionamento del programma — è un fattore critico per il successo degli agenti di codifica a lungo termine.

Scoperta Divergente: Decoupling (disaccoppiando) gli agenti dalle lunghe cronologie di conversazione convergenti e preservando stati del programma alternativi tramite il branching Git, il sistema evita la trappola della "ricerca locale avida" comune nei sistemi a singolo agente o multi-agente a memoria condivisa.
Scaling Autonomo: L'architettura orchestratore-subagente permette uno scaling adattivo al tempo di esecuzione (test-time scaling), regolando dinamicamente l'equilibrio tra esplorazione (parallelismo) ed esploitazione (raffinazione seriale) senza tuning manuale degli iperparametri.
Limitazioni: Gli autori notano con modestia che l'harness non potenzia intrinsecamente la creatività dei LLM sottostanti; gli approcci esplorati tendono comunque a essere variazioni di metodi noti. Inoltre, il comportamento di guida strategica dell'Agente Pastore è attualmente dipendente dai prompt, e i modelli testati a volte faticano a sintetizzare piani strategici complessi senza una guida esplicita.

Il lavoro posiziona SWARMRESEARCH come una base minimale e interoperabile per futuri harness e addestramento sulla scoperta aperta, enfatizzando come le scelte di design strutturale possano amplificare significativamente le capacità di scoperta degli agenti di codifica esistenti.