A-SR: Self-Evolving Agentic LLMs for Symbolic Regression via Hierarchical Coordination

Immagina di essere un detective che cerca di risolvere un mistero, ma invece di impronte digitali o alibi, i tuoi indizi sono numeri su un foglio di calcolo. Il tuo obiettivo è trovare la "ricetta" nascosta — una pulita equazione matematica scritta che spieghi come si comportano quei numeri. Questo è il mondo della Regressione Simbolica. A differenza dei normali programmi per computer che si limitano a elaborare numeri per dare un risultato, la regressione simbolica cerca di scrivere la vera legge della natura, come $F=ma$ o la formula della gravità, in un modo che un essere umano possa leggere e comprendere. È la differenza tra una scatola nera che prevede il tempo e un meteorologo che può spiegare perché sta arrivando la tempesta.

Per molto tempo, gli scienziati hanno usato i computer per dare la caccia a queste ricette, ma il processo è stato spesso goffo. È come cercare di riparare un orologio rotto scambiando casualmente gli ingranaggi sperando che ricominci a ticchettare. Se l'orologio non funziona, il computer riceve semplicemente un "punteggio scarso" e riprova, spesso commettendo gli stessi errori ripetutamente. Recentemente, gli scienziati hanno iniziato a usare i Large Language Models (LLM) — i super-intelligenti chatbot AI che forse conoscete — per aiutare a scrivere queste equazioni. Queste IA sono bravissime a indovinare quali parole (o simboli matematici) dovrebbero venire dopo, ma possono comunque incastrarsi, scrivere equazioni che non hanno senso o confondersi quando i dati diventano complicati. La grande domanda è: come possiamo far sì che questi detective artificiali smettano di tirare a indovinare casualmente e inizino a lavorare come un vero team di esperti?

Entra in scena A-SR, un nuovo metodo che tratta la ricerca di formule matematiche non come un atto solitario, ma come uno sforzo di squadra ben orchestrato. I ricercatori dietro questo articolo, Wenxiao Zhao e i suoi colleghi, si sono resi conto che il vecchio modo di fare era troppo rigido. In passato, un'IA proponeva semplicemente un'equazione, riceveva un punteggio e riprovava. Se l'equazione era rotta, l'IA poteva provare a ripararla aggiungendo più numeri, o se era troppo semplice, poteva provare a renderla più complessa, il tutto senza capire realmente perché fosse fallita.

A-SR cambia le regole del gioco dando all'IA un "manager" e un team di specialisti. Immaginate una redazione giornalistica dove il Direttore Responsabile (il Coordinatore) non si limita a chiedere a un singolo reporter di scrivere un articolo. Invece, il Direttore osserva gli eventi del giorno e decide di quale specialista si ha bisogno. Se l'articolo è pieno di errori, il Direttore chiama il Revisore per controllare i fatti. Se l'articolo è noioso e ha bisogno di un nuovo taglio, viene chiamato il Generatore per dare libero sfogo a idee stravaganti. Se l'articolo è troppo lungo e confuso, interviene il Semplificatore per tagliare il superfluo. E se all'articolo manca un pezzo chiave del puzzle, l'Analista scava negli archivi per trovare l'anello mancante.

Ciò che rende speciale A-SR è che questo team non segue un programma fisso. Il "Direttore" è auto-evolutivo. Osserva come procede la ricerca in tempo reale. Se il team è bloccato in un ciclo di errori, il Direttore cambia strategia, magari dicendo al team di smettere di esplorare nuove idee e concentrarsi sul riparare quelle rotte. Inoltre, mantiene una "memoria" di ciò che ha funzionato e di ciò che non ha funzionato, indirizzando tali informazioni allo specialista giusto. Ad esempio, se il team continua a fallire a causa di un tipo specifico di errore matematico, quel fallimento viene inviato al Revisore, che poi insegna al team come evitarlo la prossima volta.

L'articolo dimostra che questo approccio funziona incredibilmente bene. Quando testato su una varietà di enigmi scientifici — da come reagiscono le sostanze chimiche a come i materiali si deformano sotto pressione — A-SR ha trovato le corrette "ricette" matematiche molto più spesso rispetto ai metodi precedenti. In un set di test, utilizzando un modello chiamato Llama3.1-8B, il tasso di successo è salito dal circa 25,79% al 48,30%. Si tratta di quasi raddoppiare il numero di problemi che l'IA riesce a risolvere correttamente. Ancora più impressionante è che, prendendo le lezioni apprese da questi sforzi di squadra e insegnandole a un modello di IA open-source più piccolo (Qwen3-4B), il tasso di successo di questo modello più piccolo è aumentato significativamente, dal 24,58% al 38,29%.

I ricercatori hanno anche testato A-SR su dati scientifici reali, come la crescita dei batteri o la vibrazione di sistemi meccanici. In questi scenari reali, complicati e rumorosi, A-SR è riuscito a trovare le migliori descrizioni matematiche in 7 casi su 8, superando i migliori metodi esistenti. La lezione fondamentale non è solo che l'IA sia diventata più brava in matematica; è che l'IA ha imparato a pensare ai propri errori. Inveve di tentare ciecamente milioni di combinazioni casuali, ha imparato a diagnosticare i propri fallimenti, a cambiare ruolo quando necessario e a usare la propria memoria per evitare di ripetere gli stessi errori. È un passaggio da una ricerca solitaria caotica a un team di agenti intelligente e coordinato, ognuno impegnato esattamente in ciò che sa fare meglio, guidato da un manager che sa quando spingere per nuove idee e quando fermarsi per riparare ciò che è rotto.