AI4AI-Bench: Benchmarking LLM Agents in Algorithmic Design for Recursive Self-Improvement
Il documento introduce AI4AI-Bench, un nuovo benchmark composto da 10 repository di ricerca congelati che valuta la capacità degli agenti LLM di progettare e riscrivere algoritmi di addestramento per l'auto-miglioramento ricorsivo, rivelando che anche i sistemi più avanzati attualmente ottengono meno di un quarto del guadagno di prestazioni potenziale tra gli algoritmi esistenti e gli ottimi teorici.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Il sogno dell'intelligenza artificiale include spesso la visione di una macchina capace di insegnare a se stessa come diventare più intelligente, non solo memorizzando più fatti, ma riscrivendo le stesse regole che utilizza per apprendere. Questa idea, nota come auto-miglioramento ricorsivo, suggerisce un ciclo in cui un sistema di IA progetta una versione migliore di se stesso, che poi progetta una versione ancora migliore, creando una catena di rapido avanzamento. Affinché questo ciclo funzioni, la macchina deve essere in grado di migliorare l'algoritmo di addestramento — l'insieme di istruzioni che dice al computer come regolare le proprie connessioni interne in base all'esperienza. Sebbene le macchine siano diventate molto brave a seguire istruzioni e persino a perfezionare piccole impostazioni all'interno di tali istruzioni, rimane un interrogativo aperto se possano effettivamente riprogettare le istruzioni stesse. Questa è la differenza tra un conducente che sa come regolare il volume della radio e un meccanico che sa come ricostruire un motore.
Un team di ricercatori ha costruito un nuovo test per vedere se gli attuali sistemi di intelligenza artificiale possono eseguire quel tipo di lavoro meccanico profondo. Hanno creato una sfida chiamata AI4AI-Bench, che presenta dieci diversi progetti di ricerca reali a un gruppo di agenti di IA avanzati. Ogni progetto coinvolge un tipo specifico di compito di apprendimento, come insegnare a un computer a risolvere problemi matematici, a generare immagini o a comprendere le preferenze umane. I ricercatori hanno dato a ciascun agente quattro ore di tempo di calcolo per leggere il codice di uno di questi progetti e cercare di migliorare il metodo di apprendimento utilizzato al suo interno. L'agente era autorizzato a modificare il codice come voleva, ma non poteva vedere i risultati finali delle sue modifiche durante quelle quattro ore. Invece, doveva fare affidamento su una stima rapida e approssimativa per indovinare se la sua idea fosse buona. Una volta terminato il tempo, il codice modificato dall'agente veniva rimosso, e il progetto veniva eseguito da zero per fino a dodici ore utilizzando un insieme fisso e nascosto di regole per giudicare il risultato finale. Questa configurazione imita l'esperienza nel mondo reale di uno scienziato umano, che può testare un'idea piccola rapidamente, ma deve aspettare giorni per vedere se un nuovo metodo di addestramento funziona effettivamente su larga scala.
I risultati di questo esperimento sono stati rivelatori. Attraverso ventinove diverse combinazioni di sistemi di IA e livelli di sforzo, la prestazione media è stata piuttosto bassa. Su una scala in cui il codice originale, non modificato, otteneva un punteggio di 0,1 e il miglior punteggio teorico possibile era 1,0, il risultato medio è stato solo di 0,166. Anche il sistema più forte è riuscito a raggiungere appena lo 0,250. Ciò significa che gli agenti più capaci sono riusciti a colmare meno di un quinto della distanza tra il metodo esistente e il miglior risultato possibile. I ricercatori hanno scoperto che la ragione di questo divario non era una mancanza di sforzo o di potenza di calcolo, ma una mancanza di direzione. Quando il team ha analizzato le modifiche al codice apportate dagli agenti, ha scoperto che la stragrande maggioranza delle sottomissioni non aveva toccato affatto le regole centrali di apprendimento. Invece, la maggior parte degli agenti si è limitata ad aggiustare la durata dell'addestramento, la frequenza con cui veniva salvato il progresso o i numeri specifici utilizzati per regolare il processo. Questi sono cambiamenti alla gestione dell'esecuzione, non cambiamenti al modo in cui il modello apprende.
Solo una piccola minoranza degli agenti, circa il 46 percento di quelli che hanno apportato modifiche, è arrivata effettivamente a modificare l'algoritmo di apprendimento, il segnale di supervisione o la regola di aggiornamento. Questi agenti hanno ottenuto prestazioni significativamente migliori, con una media di 0,226 rispetto allo 0,126 degli altri. Ciò suggerisce che la strada verso il vero miglioramento risiede nel cambiare il modo fondamentale in cui la macchina apprende, un passo che la maggior parte dei sistemi attuali è esitante a compiere. Lo studio ha anche mostrato che aumentare la quantità di sforzo di ragionamento che un agente poteva utilizzare non rendeva gli agenti più intelligenti in senso generale, ma li rendeva più audaci. Quando agli agenti veniva concesso più tempo per pensare e pianificare, la percentuale di quelli che osavano cambiare le regole di apprendimento passava dall'8% al 64%. Questo aumento della volontà di rischiare sull'algoritmo centrale è stato ciò che ha guidato il miglioramento, piuttosto che un improvviso salto nella qualità delle idee generate.
In definitiva, il documento conclude che gli attuali agenti di IA stanno ancora cercando di recuperare una competenza di base piuttosto che progettare oltre di essa. Sono eccellenti nell'ottimizzare il processo attorno all'apprendimento, ma faticano a riprogettare il processo di apprendimento stesso. I ricercatori hanno rilasciato tutti i loro dati, incluse le modifiche al codice e i punteggi, affinché altri possano ripetere il test man mano che i sistemi di IA evolvono. Il benchmark serve come metro di misura per un tipo specifico di progresso: se una macchina può guardare il proprio metodo di addestramento, diagnosticare un difetto e riscrivere il meccanismo che guida il proprio miglioramento. Per ora, la risposta è che, sebbene possano provarci, raramente riescono a compiere i cambiamenti profondi necessari per far progredire davvero la propria intelligenza.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.