Nel mondo dell'intelligenza artificiale, i ricercatori hanno da tempo padroneggiato l'arte di insegnare ai computer a risolvere problemi con risposte chiare, giuste o sbagliate. Se a una macchina viene chiesto di risolvere un'equazione matematica o scrivere una riga di codice, può essere testata istantaneamente; la risposta è corretta oppure non lo è. Questa chiarezza ha permesso ai modelli di apprendere rapidamente, perfezionando le proprie abilità attraverso infiniti cicli di tentativi ed errori. Tuttavia, le interazioni più significative tra esseri umani e macchine avvengono spesso in aree dove non esiste una singola risposta corretta. Quando un computer agisce come un tutor, un consulente o un partner creativo, la qualità della sua risposta dipende dal contesto, dall'emozione e dai valori culturali. Un consiglio è empatico? Un'idea per una storia è sia originale che appropriata? Queste domande sono "debolmente verificabili", il che significa che non possono essere controllate da una semplice formula. Richiedono il giudizio umano, che è lento, costoso e difficile da scalare. Senza un modo affidabile per verificare la qualità, l'insegnamento di un'intelligenza artificiale per eccellere in questi compiti incentrati sull'uomo è rimasto un ostacolo persistente.

Un team di ricercatori della East China Normal University e della Hong Kong University of Science and Technology ha proposto un nuovo modo per navigare in questa incertezza. Hanno sviluppato un framework chiamato Agentic Data Evolution, o ADE, che tratta la creazione di dati di addestramento non come un evento una tantum, ma come un processo continuo e vivo. Invece di generare una lista massiccia di risposte sperando che le migliori sopravvivano, il sistema organizza i dati in "istantanee" che evolvono nel tempo. Utilizza un team di agenti di intelligenza artificiale specializzati per osservare una risposta attuale, proporre variazioni e poi selezionare rigorosamente solo quei cambiamenti che rappresentano un reale miglioramento. Questo processo è progettato per agire come una valvola di sicurezza, impedendo al sistema di scivolare accidentalmente verso prestazioni peggiori mentre cerca di migliorare. Applicando questo metodo agli scenari educativi — concentrandosi specificamente su come un tutor possa supportare i valori, le emozioni e la creatività di uno studente — i ricercatori hanno scoperto che potevano innalzare costantemente la qualità delle risposte dell'IA senza la necessità che un essere umano controllasse ogni singolo passaggio.

La sfida centrale affrontata dal team riguarda ciò che accade quando si cerca di migliorare il comportamento di un'IA in compiti in cui non è facile misurare il successo. Nei metodi tradizionali, i ricercatori potrebbero generare molte variazioni di una risposta e scegliere la migliore basandosi su un controllo rapido. Ma quando i criteri sono complessi, come il "supporto emotivo" o l' "innovazione creativa", un controllo rapido può essere fuorviante. Una risposta potrebbe sembrare più fluida o sicura, ma in realtà offrire una guida meno utile. I ricercatori hanno scoperto che, senza un processo di selezione accurato, i miglioramenti iterativi possono portare a "regressioni silenziose", in cui il modello peggiora nel tempo senza che nessuno se ne accorga perché i cambiamenti appaiono superficialmente positivi. Per risolvere questo problema, hanno costruito un sistema a ciclo chiuso che imita un'evoluzione costante e cauta.

Il processo inizia con un insieme di domande e risposte iniziali, che fungono da punto di partenza. Il sistema entra quindi in un ciclo di osservazione, variazione e selezione. Per prima cosa, un agente osserva una domanda specifica e la sua risposta attuale, identificando esattamente dove la risposta è carente in base a obiettivi specifici, come se rispetti i sentimenti di uno studente o incoraggi il pensiero creativo. Successivamente, il sistema genera nuove versioni della risposta. Lo fa in due modi: un agente apporta piccole e attente modifiche per correggere le debolezze immediate senza cambiare la struttura complessiva, mentre un altro agente si assume rischi maggiori, riorganizzando la risposta per risolvere problemi più profondi. Questo crea un piccolo pool di candidati: la risposta originale, una revisione conservativa e una revisione aggressiva.

La parte più critica del sistema è la fase di selezione, che agisce come un rigoroso guardiano. Prima che qualsiasi nuova versione venga accettata, viene confrontata direttamente con l'originale. Il sistema pone una domanda semplice ma rigorosa: questa nuova versione è chiaramente migliore? Se l'evidenza è ambigua, o se la nuova versione è solo leggermente diversa ma non definitivamente superiore, il sistema rifiuta il cambiamento e mantiene la risposta originale. Questa regola dello "stato stazionario" assicura che i dati si muovano in avanti solo quando c'è la prova di un miglioramento, agendo efficacemente come un cricchetto che impedisce alla qualità di scivolare all'indietro. I tentativi rifiutati non vengono scartati completamente; le ragioni del loro fallimento vengono registrate e utilizzate per guidare i round successivi di tentativi, aiutando il sistema a imparare cosa non fare.

Per testare se questo metodo funzionasse davvero, i ricercatori lo hanno applicato a un dataset di 10.000 domande e risposte educative, concentrandosi su tre obiettivi incentrati sull'uomo: aiutare gli studenti a navigare tra le scelte morali, fornire supporto emotivo e promuovere l'innovazione creativa. Hanno fatto passare il sistema attraverso molteplici round di evoluzione, creando una serie di dataset migliorati. Hanno poi misurato i risultati in tre modi distinti. Primo, hanno esaminato la qualità intrinseca delle risposte, confrontando le versioni evolute con le originali. Hanno scoperto che, con ogni round di evoluzione, le risposte diventavano significativamente migliori, con il tasso di vittoria delle risposte migliorate che passava dal 50 percento del set iniziale a quasi il 76 percento dopo diversi round.

In secondo luogo, hanno testato se questi miglioramenti aiutassero effettivamente il modello di IA quando veniva messo al lavoro. Hanno addestrato un modello linguistico sui dati evoluti e lo hanno testato su un set separato di 300 domande che il modello non aveva mai visto prima. I risultati hanno mostrato un chiaro trasferimento di competenze: il modello addestrato sui dati evoluti ha vinto il 68,86 percento dei confronti contro un modello addestrato sui dati originali. Ciò ha dimostato che i miglioramenti non erano solo cambiamenti superficiali graditi al sistema, ma veri potenziamenti nella gestione di compiti educativi complessi. Infine, per assicurarsi che il sistema non si stesse ingannando da solo, hanno coinvolto esperti umani per valutare le risposte in modo cieco. Gli esperti hanno preferito le risposte evolute il 66,11 percento delle volte, confermando che il processo automatizzato era allineato con il giudizio umano.

Lo studio ha anche esplorato se questi guadagni fossero specifici dei compiti educativi o se aiutassero il modello anche in altre aree. Hanno testato il modello migliorato su problemi matematici e sulla rilevazione di linguaggio tossico, entrambi caratterizzati da risposte oggettive e chiare. Anche in questi campi non correlati, il modello addestrato sui dati evoluti ha ottenuto prestazioni migliori, mostrando un aumento piccolo ma costante dell'accuratezza. Ciò suggerisce che il processo di evoluzione attenta dei dati per obiettivi incentrati sull'uomo rafforzi la capacità complessiva del modello di ragionare e allinearsi ai valori umani, piuttosto che limitarsi a insegnargli a imitare uno specifico stile di tutoraggio.

I ricercatori riconoscono che il loro metodo richiede più potenza di calcolo rispetto agli approcci più semplici perché coinvolge molteplici agenti che lavorano in un ciclo. Tuttavia, sostengono che questo costo sia necessario per evitare il rischio che il modello scivoli verso prestazioni scarse. Trattando i dati come qualcosa che può evolversi e raffinarsi nel tempo, piuttosto che come una risorsa statica da generare una volta sola, hanno dimostato una via pratica da seguire per insegnare all'intelligenza artificiale le abilità sottili e dipendenti dal contesto che definiscono l'interazione umana. Il lavoro suggerisce che, per i compiti più difficili e importanti, la chiave del progresso non risiede nel generare più dati, ma nell'evolvere i dati che già possediamo con pazienza e precisione.