💬 NLP

optimize_anything: A Universal API for Optimizing any Text Parameter

Il documento introduce "optimize_anything", un framework di ottimizzazione universale basato su LLM che ottiene risultati all'avanguardia in sei ambiti diversificati — tra cui la progettazione di architetture di agenti, la riduzione dei costi cloud e la generazione di kernel CUDA — unificando la ricerca basata su testo con il trasferimento multi-compito e informazioni laterali azionabili per superare gli algoritmi specializzati.

Autori originali: Lakshya A Agrawal, Donghyun Lee, Shangyin Tan, Wenjie Ma, Karim Elmaaroufi, Rohit Sandadi, Sanjit A. Seshia, Koushik Sen, Dan Klein, Ion Stoica, Joseph E. Gonzalez, Omar Khattab, Alexandros G. Dimakis

Pubblicato 2026-05-20

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Lakshya A Agrawal, Donghyun Lee, Shangyin Tan, Wenjie Ma, Karim Elmaaroufi, Rohit Sandadi, Sanjit A. Seshia, Koushik Sen, Dan Klein, Ion Stoica, Joseph E. Gonzalez, Omar Khattab, Alexandros G. Dimakis, Matei Zaharia

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere uno chef stellato (un Large Language Model, o LLM) incredibilmente talentuoso nella scrittura di ricette, ma che non sa cucinare. Di solito, per ottenere un ottimo piatto, devi assumere un diverso specialista per ogni portata: uno chef pasticciere per il dessert, un maestro della griglia per la bistecca e uno chef de cuisine per la zuppa.

Il documento introduce optimize_anything, un nuovo sistema che agisce come un ciclo universale di "assaggio e coaching". Afferma che non è necessario un diverso specialista per ogni compito. Invece, puoi utilizzare questo singolo sistema per migliorare qualsiasi soluzione basata sul testo, sia che si tratti di un programma informatico, di un insieme di istruzioni, del cervello di un robot o persino di un disegno.

Ecco come funziona, scomposto in concetti semplici:

1. L'Idea Centrale: l'"Artifatto Testuale"

Gli autori hanno realizzato che quasi ogni problema può essere trasformato in un pezzo di testo.

Il codice è solo testo.
Le istruzioni di un robot sono solo testo.
Una formula matematica è solo testo.
Un disegno (come un SVG) è solo codice testuale.

L'Analogia: Pensa all'"artifatto testuale" come a una bozza grezza di una storia. Il compito del sistema è prendere quella bozza, leggerla, valutare quanto bene funziona e poi chiedere allo chef AI di riscriverla per renderla migliore.

2. Il Segreto: "Informazioni Laterali" (Le Note del Coach)

In passato, se chiedevi a un'IA di migliorare qualcosa, riceveva solo un punteggio (ad esempio, "Questo codice ha ottenuto il 60%"). Non sapeva perché aveva fallito. Era come uno studente che riceveva un "C" in un test senza feedback su quali domande fossero sbagliate.

optimize_anything cambia le regole. Il sistema non si limita a dare un punteggio; fornisce Informazioni Laterali (SI).

L'Analogia: Immagina un allenatore che osserva un atleta correre. Invece di dire semplicemente "Hai corso in 10 secondi", l'allenatore dice: "Hai corso in 10 secondi, ma hai inciampato nel terzo ostacolo perché il laccio della scarpa era allentato e ti sei inclinato troppo a sinistra".
Come aiuta: L'IA utilizza queste note specifiche (come messaggi di errore, log di crash o descrizioni visive) per risolvere il problema esatto. Il documento dimostra che questo permette all'IA di imparare da 4 a 6 volte più velocemente e di ottenere punteggi molto più alti rispetto al caso in cui avesse solo un semplice punteggio.

3. I Tre Modi di Gioco

Il sistema ha tre modalità diverse, come diverse modalità di gioco in un videogioco:

Modalità Singolo Compito (Il Giocatore Solitario): Dai al sistema un problema specifico da risolvere, come "Inserisci 26 cerchi in un quadrato". L'IA tenta di risolvere solo quella singola cosa.
Modalità Multi-Compito (Il Gruppo di Studio): Dai al sistema un gruppo di problemi correlati, come "Scrivi 30 diversi programmi informatici per velocizzare la matematica". L'IA li risolve tutti insieme.
- La Magia: Se l'IA scopre un trucco per il Problema #1 (ad esempio, "usa un trucco di memoria più veloce"), può applicare istantaneamente lo stesso trucco al Problema #15. È come uno studente che impara un trucco matematico in algebra e lo usa per eccellere nel calcolo. Il documento ha rilevato che questa modalità è molto migliore rispetto alla risoluzione dei problemi uno alla volta.
Modalità Generalizzazione (La Master Class): Dai all'IA un set di addestramento e un set di test. L'obiettivo è creare una soluzione che funzioni su nuovi, mai visti prima, problemi.
- Esempio: L'IA ha imparato a scrivere una "guida alle abilità" per un robot di programmazione. Si è addestrata su un insieme di compiti di codifica e poi è diventata così brava nella guida da aiutare il robot a risolvere nuovi compiti di codifica che non aveva mai visto prima.

4. Cosa Hanno Realizzato Effettivamente?

Il documento ha testato questo sistema su sei tipi di problemi molto diversi. Ecco cosa è successo:

Cervelli Robot (Architettura degli Agenti): Hanno dato all'IA un cervello robotico molto semplice, di 10 righe. Il sistema lo ha evoluto in un cervello complesso di oltre 300 righe. Il risultato? L'accuratezza del robot su un difficile puzzle logico (ARC-AGI) è passata dal 32,5% all'89,5%.
Costi Cloud: Hanno chiesto all'IA di scrivere un programma per i server cloud. Il nuovo programma ha risparmiato il 40% del denaro rispetto ai metodi standard.
Velocità Informatica (Kernel CUDA): Hanno chiesto all'IA di scrivere codice per rendere le schede grafiche più veloci. L'87% del codice scritto dall'IA era veloce quanto o più veloce del miglior codice scritto da umani.
Puzzle Matematici: Hanno migliorato un prompt per un esame di matematica, aumentando il punteggio dell'IA dal 46,6% al 60%.
Impaccamento di Cerchi: Hanno chiesto all'IA di impaccare cerchi il più strettamente possibile. L'IA ha trovato una soluzione migliore di un famoso AI precedente (AlphaEvolve) e l'ha fatto con meno potenza di calcolo.
Modelli 3D: In una modalità "senza semi" (dove l'IA doveva partire da zero senza codice), ha generato con successo un modello 3D di un unicorno.

5. Perché Questo È Importante

Prima di questo, se volevi ottimizzare un robot, avevi bisogno di un esperto di robotica. Se volevi ottimizzare un server cloud, avevi bisogno di un esperto di cloud.

optimize_anything afferma di essere la prima "API Universale". Dice: "Dammi il testo, dammi le regole su come valutarlo e io mi occuperò del resto". Unifica questi mondi diversi sotto un'unica interfaccia semplice.

Il Rovescio della Medaglia (Limitazioni):

Funziona solo su cose che possono essere scritte come testo.
Ha bisogno di un "valutatore" (uno scorer) per dirgli quanto bene sta andando il testo.
La qualità del risultato dipende da quanto è intelligente lo chef AI.
A volte, se gli chiedi di risolvere troppi problemi totalmente diversi contemporaneamente (come impaccare cerchi di dimensioni diverse), si confonde. Funziona meglio quando i problemi sono correlati.

Riepilogo

optimize_anything è uno strumento che permette a un singolo sistema AI di imparare a diventare un ottimizzatore maestro per quasi tutto ciò che è scritto in testo. Fornendo all'IA feedback dettagliati (non solo un punteggio) e lasciandola imparare da più problemi contemporaneamente, può scoprire soluzioni che sono spesso migliori degli strumenti specializzati costruiti da esperti umani per compiti specifici.

Riepilogo Tecnico: optimize_anything

Enunciato del Problema

I sistemi attuali di ottimizzazione dei Modelli Linguistici su Larga Scala (LLM) sono in gran parte isolati per tipo di artefatto e modalità di ottimizzazione. Gli strumenti esistenti come AlphaEvolve e OpenEvolve sono specializzati nell'evoluzione del codice per singoli compiti, mentre framework come GEPA e MIPROv2 si concentrano esclusivamente sull'ottimizzazione dei prompt con capacità di generalizzazione. Nessun sistema singolo ha dimostrato la capacità di ottimizzare simultaneamente artefatti testuali fondamentalmente diversi, che vanno dal codice e dai prompt alle architetture di agenti e ai parametri di generazione delle immagini. Inoltre, i sistemi precedenti spesso mancano di un meccanismo unificato per l'utilizzo di feedback diagnostico (Informazioni Secondarie) o del supporto per la ricerca multi-compito in cui le intuizioni si trasferiscono tra problemi correlati.

Il documento ipotizza che una vasta gamma di problemi di ottimizzazione possa essere unificata sotto una singola formulazione: ottimizzare un artefatto testuale $x$ valutato da una funzione di punteggio $f(x)$ che restituisce un punteggio e un feedback diagnostico opzionale. L'obiettivo è creare un'API universale che supporti la ricerca a singolo compito, la ricerca multi-compito con trasferimento tra problemi e la generalizzazione su input non visti in domini diversificati.

Metodologia: optimize_anything

Gli autori presentano optimize_anything, un'API dichiarativa che implementa un ciclo di ottimizzazione testuale universale. Il sistema è agnostico rispetto al backend, ma utilizza come predefinito un'estensione dell'algoritmo GEPA, adattata per artefatti testuali arbitrari.

Interfaccia Principale

Il sistema richiede tre input principali:

Artefatto Seminale: Una stringa di testo iniziale (ad esempio, codice, prompt, definizione di agente). In "modalità senza semi", il sistema avvia il primo candidato partendo esclusivamente da un obiettivo in linguaggio naturale.
Valutatore: Una funzione che esegue l'artefatto e restituisce una tupla composta da un punteggio (più alto è meglio) e Informazioni Secondarie (SI).
Dataset/Insieme di Validazione: Input opzionali per definire la modalità di ottimizzazione.

Tre Modalità di Ottimizzazione

Il sistema unifica tre modalità distinte sotto un'unica interfaccia, determinate dalla presenza di dataset:

Ricerca a Singolo Compito: Ottimizza un singolo artefatto per un problema specifico (ad esempio, il riempimento di cerchi). Il valutatore assegna un punteggio all'artefatto direttamente.
Ricerca Multi-Compito: Ottimizza simultaneamente un batch di compiti correlati. Il sistema mantiene una frontiera di Pareto condivisa tra i compiti, consentendo ai pattern di ottimizzazione scoperti per un compito (ad esempio, un'ottimizzazione di un kernel CUDA) di trasferirsi agli altri.
Generalizzazione: Ottimizza un artefatto per ottenere buone prestazioni su un insieme di addestramento, validandolo su un insieme di validazione separato e non visto. Questa modalità si estende oltre i prompt fino alle architetture di agenti e alle politiche di schedulazione.

Meccanismi Algoritmici Chiave

Informazioni Secondarie (SI) come Contratto di Primo Livello: A differenza degli ottimizzatori tradizionali basati su gradienti che si affidano a feedback scalari, optimize_anything tratta il feedback diagnostico (errori del compilatore, dati del profiler, tracce di esecuzione, immagini renderizzate) come un input primario. Il propositore LLM utilizza queste SI durante una fase di "riflessione" per diagnosticare i fallimenti e proporre correzioni mirate, mimando un ingegnere che itera su un prototipo.
Ricerca Basata su Pareto: Invece di collassare punteggi multidimensionali in un singolo aggregato, il sistema traccia i punteggi per compito o per metrica. Mantiene una frontiera di Pareto di candidati non dominati. Questo preserva punti di forza complementari (ad esempio, un candidato bravo nel Compito A ma medio nel Compito B) e previene la convergenza prematura.
Selezione dei Candidati e Riflessione: I candidati vengono selezionati per la mutazione in base alla loro frequenza sulla frontiera di Pareto. Al propositore viene mostrato un minibatch di esempi e le relative SI per generare un artefatto migliorato. Una fase di "raffinamento" intercetta artefatti di generazione comuni (ad esempio, errori di sintassi) prima della valutazione.

Contributi Chiave

Ottimizzazione Unificata Cross-Dominio: Il documento dimostra che un singolo sistema basato su LLM può ottenere risultati all'avanguardia in sei domini fondamentalmente diversi: ricerca di architetture di agenti, schedulazione cloud, generazione di kernel CUDA, ottimizzazione dei prompt, riempimento di cerchi e generazione di immagini.
Prima Modalità Multi-Compito per l'Evoluzione degli LLM: Il sistema introduce una modalità di ricerca multi-compito in cui la risoluzione di un batch di problemi correlati abilita il trasferimento trasversale di pattern di ottimizzazione, superando l'ottimizzazione indipendente a singolo compito.
Informazioni Secondarie Azionabili: Gli autori formalizzano il feedback diagnostico come un contratto API uniforme. Studi di ablazione mostrano che le SI azionabili producono una convergenza 4–6 volte più rapida e punteggi finali sostanzialmente più elevati rispetto al feedback basato solo sul punteggio.
Implementazione Open-Source: Il sistema è rilasciato come parte del progetto GEPA, supporta più backend e fornisce un'interfaccia dichiarativa che astrae i prompt di mutazione, le configurazioni delle isole e i modelli specifici per compito.

Risultati Sperimentali

Il sistema è stato valutato su sei domini principali:

Architettura di Agenti (ARC-AGI): Ha ottimizzato un sistema di agenti (codice + prompt) da un seme di 10 righe a un sistema di oltre 300 righe, triplicando l'accuratezza dal 32,5% all'89,5% sul set di test ARC-AGI.
Schedulazione Cloud: Ha scoperto algoritmi di schedulazione che hanno ridotto i costi di egress dei dati cloud del 40,2% (CloudCast) e migliorato l'utilizzo delle istanze spot (Can't Be Late), superando i benchmark esistenti.
Kernel CUDA: Ha generato kernel per 31 operazioni PyTorch, dove l'87% ha eguagliato o superato i baseline di PyTorch. La modalità multi-compito ha superato significativamente la modalità a singolo compito nelle soglie di accelerazione.
Ottimizzazione dei Prompt: Ha migliorato l'accuratezza di GPT-4.1-mini sui problemi matematici AIME 2025 dal 46,67% al 60,00%, superando MIPROv2.
Riempimento di Cerchi: Ha superato la soluzione riportata da AlphaEvolve per il riempimento di 26 cerchi, ottenendo una somma di raggi maggiore con meno valutazioni.
Generazione di Immagini: Ha ottimizzato codice SVG e CAD, con valutatori umani che hanno preferito i risultati rispetto ai baseline zero-shot.

Risultati degli Studi di Ablazione:

Informazioni Secondarie: La rimozione delle SI ha ridotto significativamente le prestazioni finali (ad esempio, il punteggio di riempimento dei cerchi è sceso al 94% dell'ottimo; le accelerazioni dei kernel sono passate dal 40% allo 0% superando 1,1 $\times$ ).
Multi-Compito vs. Singolo-Compito: La ricerca multi-compito ha costantemente superato la ricerca a singolo compito su compiti correlati (kernel CUDA) grazie al trasferimento di pattern. Tuttavia, su compiti non correlati (riempimento di cerchi con diversi valori di $N$ ), la ricerca multi-compito ha introdotto rumore e degradato le prestazioni.
Sensibilità del Propositore: Sebbene modelli più grandi (GPT-5.1) abbiano raggiunto una qualità finale superiore, modelli più economici (GPT-5-nano) hanno comunque fornito miglioramenti sostanziali rispetto ai semi a una frazione del costo.

Significato e Affermazioni

Il documento afferma di stabilire l'ottimizzazione testuale con ricerca basata su LLM come un paradigma di risoluzione dei problemi a scopo generale. Sostiene che trattando i problemi di ottimizzazione come il miglioramento di artefatti testuali valutati da funzioni di punteggio con feedback diagnostico, si riduce la necessità di algoritmi specifici per dominio.

Il significato risiede in:

Unificazione: Unificare compiti che tradizionalmente richiedono algoritmi distinti (evoluzione del codice, ingegneria dei prompt, progettazione di agenti) sotto un unico framework.
Scalabilità del Trasferimento: Dimostrare che i pattern di ottimizzazione possono trasferirsi tra problemi correlati, scalando i benefici con il numero di compiti.
Feedback Azionabile: Mostrare che convertire i punteggi scalari in segnali diagnostici azionabili (SI) è fondamentale per l'efficienza e l'efficacia dell'ottimizzazione basata su LLM.

Gli autori concludono che optimize_anything fornisce un'interfaccia dichiarativa in cui gli utenti definiscono cosa ottimizzare (artefatto, valutatore, obiettivo), e il sistema gestisce il come (strategia di ricerca, riflessione, selezione), democratizzando efficacemente compiti di ottimizzazione complessi.