🤖 AI

MARS: Modular Agent with Reflective Search for Automated AI Research

MARS è un nuovo framework per la ricerca autonoma sull'intelligenza artificiale che supera i colli di bottiglia dell'ingegneria del machine learning complessa integrando una pianificazione basata sulla Ricerca ad Albero Monte Carlo consapevole del budget, una pipeline modulare di progettazione-decomposizione-implementazione e una memoria riflessiva comparativa per raggiungere prestazioni all'avanguardia su MLE-Bench.

Autori originali: Jiefeng Chen, Bhavana Dalvi Mishra, Jaehyun Nam, Rui Meng, Tomas Pfister, Jinsung Yoon

Pubblicato 2026-05-21

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Jiefeng Chen, Bhavana Dalvi Mishra, Jaehyun Nam, Rui Meng, Tomas Pfister, Jinsung Yoon

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di voler vincere una competizione culinaria ad alto rischio, ma hai una regola molto rigida: hai solo 24 ore per cucinare e ogni minuto che passi a tagliare le cipolle ti costa denaro.

La maggior parte dei programmi informatici che cercano di risolvere questo problema sono come chef dilettanti che iniziano a tagliare tutto alla rinfusa. Scrivono una ricetta gigante e disordinata (uno "script monolitico") che cerca di fare tutto in un unico tentativo. Se bruciano la zuppa, buttano via l'intera pentola e ricominciano da zero. Non gli importa quanto tempo ci vuole per far bollire l'acqua; vogliono solo che la zuppa abbia un buon sapore. Nel mondo reale della ricerca sull'intelligenza artificiale, questo è un disastro perché addestrare modelli di IA è come bollire una pentola gigantesca di zuppa: richiede molto tempo e molta elettricità.

Il documento introduce MARS (Modular Agent with Reflective Search), che è come uno Chef Caposquadra con un Team di Specialisti e un Quaderno Intelligente.

Ecco come funziona MARS, suddiviso in tre parti semplici:

1. La Ricerca "Consapevole del Budget" (Il Pianificatore Intelligente)

Immagina di giocare a un gioco di "Indovina la Migliore Ricetta", ma hai un budget limitato per ingredienti e tempo.

Vecchio Metodo: Provi ogni ricetta che ti viene in mente, anche se una richiede 10 ore di cottura. Se sazia leggermente meglio, la scegli, anche se ti rimangono pochi minuti per cucinare qualcos'altro.
Metodo MARS: MARS utilizza una strategia chiamata Budget-Aware MCTS. Pensa a questo come a un pianificatore intelligente che guarda l'orologio. Se la Ricetta A richiede 1 ora e sazia "abbastanza bene", e la Ricetta B richiede 10 ore e sazia leggermente meglio, MARS sceglie la Ricetta A. Sa che sprecare 9 ore per un miglioramento minimo è un cattivo affare. Si chiede costantemente: "Vale la pena questo miglioramento il tempo e il denaro aggiuntivi?"

2. Costruzione Modulare (La Catena di Montaggio)

Invece di scrivere una singola ricetta di 50 pagine, MARS suddivide il processo di cottura in piccole stazioni separate.

Vecchio Metodo: Uno chef scrive un unico script confuso. Se la salsa è sbagliata, devono riscrivere l'intero documento di 50 pagine per correggerlo.
Metodo MARS: MARS utilizza una pipeline "Design-Decompose-Implement". Assegna diversi "agenti" (chef specialisti) a compiti specifici:
- Agente A gestisce le verdure (dati).
- Agente B gestisce le spezie (architettura del modello).
- Agente C gestisce la cottura (addestramento).
  Se la salsa è troppo salata, MARS modifica solo le istruzioni dell'"Agente Spezie". Non tocca le verdure o la carne. Questo rende il codice più facile da correggere, più facile da testare e molto meno propenso a far crashare l'intero sistema.

3. Memoria Riflessiva Comparativa (Il Quaderno "Eureka!")

Questa è la parte più magica. In una cucina normale, se un piatto fallisce, potresti semplicemente dire: "Non ha funzionato" e andare avanti.

Vecchio Metodo: Gli agenti di IA spesso dimenticano perché un piatto è fallito. Potrebbero ripetere lo stesso errore perché non hanno appreso la causa specifica.
Metodo MARS: MARS mantiene una "Memoria Riflessiva Comparativa". Quando un nuovo piatto risulta migliore del precedente, MARS non si limita a dire "Bravo". Agisce come un detective. Confronta la esatta differenza tra la vecchia ricetta e quella nuova.
- Esempio: "Ah! Il nuovo piatto è migliore perché abbiamo aggiunto un pizzico di sale e lo abbiamo cotto per 2 minuti in più. Il sale è stato la chiave, non il tempo."
- Lo scrive come una "Lezione". In seguito, se prova un piatto completamente diverso, può dire: "Ehi, ho imparato che il sale aiuta con questo tipo di problema", e applicare quella lezione a un ramo completamente diverso della ricerca.
- Il documento ha rilevato che il 63% delle lezioni utilizzate da MARS proveniva da questi "trasferimenti tra rami diversi", il che significa che ha imparato da un tipo di problema e l'ha applicato con successo a uno diverso. Questo è il momento "Eureka!".

Il Risultato

I ricercatori hanno testato MARS su MLE-Bench, che è come una grande e difficile competizione culinaria con 75 sfide diverse (dall'analisi del testo al riconoscimento delle immagini).

La Competizione: Altri agenti di IA (come AIDE o AIRA) hanno cercato di risolvere questi problemi ma spesso si sono bloccati, hanno scritto codice disordinato o hanno sprecato tempo in esperimenti costosi che non hanno dato risultati.
Il Vincitore: MARS ha vinto più medaglie (Oro, Argento, Bronzo) di qualsiasi altro sistema open-source. Non è stato solo fortunato; è stato più efficiente. Ha trovato soluzioni migliori più velocemente non sprecando tempo in esperimenti costosi e a basso valore e imparando dai propri errori in modo strutturato.

In sintesi: MARS è un ricercatore di IA che non si limita a "provare cose a caso". Pianifica attentamente il proprio tempo, suddivide i grandi problemi in piccoli pezzi gestibili e tiene un quaderno dettagliato esattamente del perché le cose hanno funzionato o fallito, permettendogli di imparare e migliorare molto più velocemente dei suoi concorrenti.

Riepilogo Tecnico: MARS (Agente Modulare con Ricerca Riflessiva) per la Ricerca AI Automatizzata

1. Enunciato del Problema

L'automazione della ricerca AI si scontra con un collo di bottiglia critico nell'esecuzione di compiti complessi di Ingegneria del Machine Learning (MLE). A differenza dell'ingegneria del software generale, dove la correttezza è spesso binaria e la verifica è computazionalmente economica, l'MLE è un'impresa probabilistica e ad alta intensità di risorse. Richiede la navigazione di un panorama definito da:

Valutazione Computazionalmente Costosa: L'addestramento dei modelli e l'elaborazione dei dati consumano vasti risorse, rendendo il "tentativo ed errore" costoso.
Attribuzione Opaca delle Prestazioni: Quando un esperimento produce risultati migliori, isolare i fattori causali specifici (assegnazione del merito) è difficile.
Complessità Architetturale: I repository di ricerca richiedono un'interazione fluida tra il caricamento dei dati, l'architettura del modello e i cicli di addestramento.

I recenti agenti basati su Large Language Model (LLM) faticano in questo dominio. Tipicamente generano script monolitici che ignorano i costi di esecuzione, mancano della modularità richiesta per un'ingegneria rigorosa e falliscono nell'apprendere efficacemente dai tentativi passati a causa dell'incapacità di risolvere il problema dell'assegnazione del merito.

2. Metodologia: Il Framework MARS

MARS (Agente Modulare con Ricerca Riflessiva) riformula il processo di ricerca come una ricerca di un repository software ottimale. È costruito su tre pilastri fondamentali progettati per affrontare i vincoli specifici della scoperta scientifica autonoma:

A. Pianificazione Consapevole del Budget (MCTS Consapevole delle Risorse)

Per affrontare l'alto costo della valutazione, MARS impiega una Ricerca ad Albero Monte Carlo (MCTS) vincolata dai costi. A differenza degli algoritmi di ricerca standard che ottimizzano esclusivamente per le prestazioni del compito, MARS integra una Funzione di Ricompensa Guidata dall'Efficienza direttamente nell'albero di ricerca.

Meccanismo: La funzione di ricompensa $R(v)$ bilancia i guadagni di prestazioni ( $G(v)$ ) con la latenza di esecuzione ( $t(v)$ ), penalizzando le soluzioni che superano i budget temporali o sono computazionalmente inefficienti.
Spazio delle Azioni: L'albero di ricerca utilizza tre operatori:
1. Bozza: Generazione di una nuova soluzione da zero.
2. Miglioramento: Modifica dei nodi validi per massimizzare gli obiettivi.
3. Debug: Risoluzione degli errori di runtime nei nodi falliti.
Risultato: Ciò permette all'agente di privilegiare soluzioni efficienti (ad esempio, una sessione di addestramento di 1 ora rispetto a una di 4 ore con prestazioni comparabili), ottimizzando il tasso di scoperta entro un budget fisso.

B. Costruzione Modulare

MARS sostituisce la scripting fragile e monolitica con un'architettura software strutturata a livello di repository.

Pipeline: Adotta un flusso di lavoro "Progetta-Decomponi-Implementa" che coinvolge agenti specializzati:
1. Generazione di Idee: Articola un piano completo in linguaggio naturale.
2. Decomposizione Modulare: Analizza il piano in moduli funzionali logici e indipendenti.
3. Implementazione dei Componenti: Implementa e convalida i moduli in sequenza.
Raffinamento Basato su Diff: Le modifiche al codice sono strutturate in un formato diff standardizzato, consentendo aggiornamenti atomici su più file. Questo approccio supera i limiti dei token, riduce il rumore del contesto, abilita la memorizzazione e il riutilizzo del codice e migliora significativamente la testabilità localizzando il debug su file specifici.

C. Memoria Riflessiva Comparativa

Per risolvere il problema dell'assegnazione del merito, MARS introduce un meccanismo di Memoria Riflessiva Comparativa che distilla intuizioni causali ad alto segnale dal processo di esplorazione.

Distillazione delle Lezioni: Invece di riassumere semplicemente i log, il sistema esegue un'analisi comparativa tra la soluzione corrente e la migliore soluzione nota. Isola i cambiamenti algoritmici specifici che guidano le variazioni delle prestazioni.
Tipi di Lezioni:
- Lezioni di Miglioramento della Soluzione: Derivate da soluzioni valide, identificano cambiamenti causali e regole generalizzate.
- Lezioni di Debug: Derivate da esecuzioni fallite, spiegano la logica del fallimento e forniscono linee guida per prevenire errori simili.
Utilizzo: L'agente mantiene in memoria le lezioni più recenti e le cita esplicitamente quando le applica a nuove soluzioni, facilitando il trasferimento trasversale di intuizioni tra rami diversi.

3. Contributi Chiave

Introduzione del Framework: La proposta di MARS, un framework ottimizzato esplicitamente per la ricerca AI autonoma combinando MCTS consapevole del budget, una pipeline di implementazione modulare e Memoria Riflessiva Comparativa.
Prestazioni all'Avanguardia: Una valutazione estesa sul benchmark MLE-Bench dimostra che MARS raggiunge prestazioni all'avanguardia tra i framework open-source in condizioni comparabili, mantenendo la competitività con i leader delle classifiche globali.
Momenti Qualitativi "Aha!": Il sistema esibisce breakthrough qualitativi dove il 63% delle lezioni utilizzate origina dal trasferimento trasversale tra rami, dimostrando la capacità dell'agente di generalizzare efficacemente le intuizioni attraverso percorsi di ricerca diversi.
Rilascio Open: Gli autori rilasciano prompt, codice generato e traiettorie per facilitare la ricerca futura.

4. Risultati Sperimentali

La valutazione è stata condotta su MLE-Bench, comprendente 75 competizioni Kaggle impegnative su NLP, visione artificiale e dati tabulari.

Metriche di Prestazione: MARS ha raggiunto il tasso più alto di Medaglie d'Oro (31,1%) tra tutti gli agenti riportati nella valutazione controllata.
Competitività:
- Utilizzando Gemini-3-Pro-Preview, MARS ha raggiunto un tasso di Qualsiasi Medaglia del 56,0% e un tasso Sopra la Mediana del 65,8%.
- La variante scalata, MARS+ (utilizzando 2x GPU H100), ha raggiunto un tasso di Qualsiasi Medaglia del 62,7% e un tasso di Medaglia d'Oro del 33,8%, superando forti competitor come ML-Master 2.0.
Studi di Ablazione:
- Decomposizione Modulare: La rimozione di questo componente ha degradato significativamente il successo, validando il suo ruolo nel ridurre il rumore del contesto e migliorare la testabilità.
- Meccanismi di Memoria: La rimozione completa della memoria ha causato un calo drastico delle prestazioni. La distillazione comparativa è risultata essenziale per isolare i fattori causali rispetto alla semplice analisi empirica.
- MCTS Consapevole del Budget: La strategia di ricerca proposta ha costantemente superato MCTS Vanilla e la Ricerca Greedy, confermando che penalizzare il tempo di esecuzione migliora la scoperta di soluzioni ottimali.
Efficienza dei Costi: Una versione di MARS da 4 ore ha raggiunto un tasso di Qualsiasi Medaglia più alto (28,4%) spendendo significativamente meno (9,6$) rispetto alle baseline da 24 ore, dimostrando che i guadagni nelle prestazioni derivano dall'efficienza architetturale piuttosto che dal mero aumento dell'allocazione delle risorse.

5. Significato e Affermazioni

Il documento afferma che MARS affronta i limiti degli agenti autonomi attuali nella ricerca AI a lungo termine trattando la ricerca come una sfida ingegneristica rigorosa a livello di repository. Integrando pianificazione consapevole delle risorse, costruzione modulare e memoria riflessiva comparativa, MARS risolve efficacemente il problema dell'assegnazione del merito bilanciando l'esplorazione con l'efficienza computazionale.

Gli autori affermano che questo approccio strutturato, che imita la previdenza strategica degli ingegneri umani, abilita prestazioni all'avanguardia in compiti complessi di Ingegneria del Machine Learning. La capacità del sistema di sperimentare momenti "Aha!" attraverso il trasferimento trasversale di lezioni suggerisce un passo verso agenti che non solo eseguono codice, ma imparano e generalizzano intuizioni scientifiche in modo autonomo.

Il documento riconosce le limitazioni, notando che la valutazione è attualmente limitata a MLE-Bench e che il costo computazionale della ricerca iterativa e della distillazione rimane un ostacolo. È proposto un lavoro futuro per estendere il framework a domini scientifici più ampi e ottimizzare la sostenibilità economica attraverso la memorizzazione avanzata del contesto e l'arresto anticipato.