Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning

Nel mondo dell'intelligenza artificiale, esiste una crescente tensione tra la potenza di questi sistemi e la nostra capacità di fidarci di essi. Ci affidiamo all'IA per prendere decisioni in settori ad alto rischio come la medicina e la sicurezza, eppure il requisito fondamentale per la fiducia è sapere che un sistema si comporterà in modo affidabile su nuovi dati mai visti, non solo sui campioni su cui è stato addestrato. Per decenni, gli scienziati hanno cercato di creare garanzie matematiche che dimostrassero che un modello non avrebbe fallito inaspettatamente. Tuttavia, queste garanzie sono state spesso inutili per le reti massicce e complesse che alimentano l'IA moderna. I calcoli necessari per certificare la sicurezza di sistemi così grandi producono solitamente avvisi così ampi e pessimistici da non fornire alcuna informazione utile, dicendo essenzialmente che il tasso di errore potrebbe variare dallo zero al cento per cento. Questo problema diventa ancora più difficile quando ci sono pochissimi dati disponibili per addestrare il sistema, una situazione comune nei campi specializzati dove raccogliere migliaia di esempi è impossibile.

Un team di ricercatori ha scoperto un modo sorprendente per aggirare queste limitazioni cambiando il modo in cui osservano il processo di apprendimento stesso. Invece di cercare di certificare l'intera massiccia rete neurale, si sono concentrati su una tecnica chiamata fusione dei modelli (model merging), che combina diversi esperti pre-addestrati in un unico nuovo modello. Trattando il processo di combinazione di questi modelli come una forma di apprendimento con pochissime impostazioni regolabili, i ricercatori hanno scoperto di poter applicare controlli di sicurezza rigorosi che prima erano impossibili. Il loro lavoro dimostra che è possibile fornire garanzie significative e non vuote sulle prestazioni di enormi sistemi di intelligenza artificiale, anche quando sono addestrati su appena cento esempi. Questa scoperta suggerisce che gli strumenti necessari per certificare la sicurezza dei più potenti modelli di IA di oggi erano già nascosti in piena vista, in attesa di essere riconosciuti attraverso una lente teorica diversa.

Il cuore di questa scoperta risiede nel reimmaginare come addestriamo e validiamo l'IA quando i dati sono scarsi. Tradizionalmente, per provare che un modello funzioni, gli scienziati dividono i loro limitati dati in un set di addestramento e un set di validazione separato. Ma quando si hanno solo cento esempi, dividere i dati a metà lascia troppo poco per addestrare un buon modello e troppo poco per testarlo in modo affidabile. I ricercatori hanno capito che un metodo popolare, chiamato fusione dei modelli, offre una soluzione. In questo approccio, invece di addestrare una rete gigante da zero, si prendono diverse reti esistenti che hanno già appreso diverse abilità e le si fondono insieme. La fusione è controllata da un piccolo insieme di numeri, o pesi, che determinano quanto ogni rete originale contribuisce al risultato finale. Poiché il numero di questi pesi di fusione è minuscolo rispetto ai miliardi di parametri all'interno delle reti originali, il processo di apprendimento diventa molto più semplice.

I ricercatori hanno dimostrato che questa semplicità è la chiave per la certificazione. Hanno applicato un framework noto come PAC-Bayes, che è un metodo per calcolare la probabilità che un modello funzioni bene su nuovi dati. Di solito, questo metodo fallisce per le grandi reti perché la matematica diventa troppo imprecisa per essere utile. Tuttavia, poiché la fusione dei modelli regola solo un manipolo di pesi, la matematica rimane precisa. Il team ha dimostrato che gli algoritmi di fusione esistenti, progettati semplicemente per creare il miglior modello combinato possibile, fornivano già queste strette garanzie di sicurezza senza alcuna modifica speciale. In molti casi, il modo standard in cui questi algoritoli funzionavano era sufficiente per dimostrare che il modello risultante non sarebbe fallito catastroficamente, anche con pochissimi dati di addestramento.

Per rendere queste garanzie ancora più forti, il team ha sviluppato un modo per perfezionare il processo di apprendimento. Hanno modificato l'obiettivo dell'algoritmo di fusione per minimizzare esplicitamente il limite di sicurezza (safety bound), piuttosto che cercare solo di ottenere l'errore più basso sui dati di addestramento. Questo aggiustamento ha permesso loro di trasformare le garanzie "vuote", che non offrivano alcuna reale assicurazione, in limiti concreti e utili sulla frequenza con cui il modello potrebbe fallire. Hanno testato questo approccio su due tipi molto diversi di intelligenza artificiale: un sistema di visione capace di riconoscere immagini e un grande modello linguistico capace di comprendere il testo. Per il sistema di visione, hanno utilizzato un modello con circa ottantotto milioni di parametri e, per il modello linguistico, uno con sette miliardi di parametri. In entrambi i casi, hanno addestrato i sistemi su soli cento esempi per compito.

I risultati sono stati sorprendenti. Per i compiti di visione, i ricercatori sono stati in grado di certificare che i modelli fusi avrebbero operato entro un intervallo di accuratezza specifico e ristretto. Per il modello linguistico, che è significativamente più grande e complesso, hanno ottenuto lo stesso risultato. In molti casi, il modello linguistico di base performava scarsamente su nuovi compiti quando non riceveva esempi di addestramento, ma dopo essere stato fuso e addestrato su soli cento esempi, il sistema non solo ha migliorato le sue prestazioni, ma è arrivato con un certificato matematico che ne prova l'affidabilità. I ricercatori hanno scoperto che, per tutti i dataset, l'errore di test poteva essere certificato entro il 5% dell'errore di addestramento.

Questo lavoro sfida la convinzione radicata che certificare i grandi sistemi di IA richieda enormi quantità di dati. I ricercatori hanno dimostrato che, concentrandosi sul piccolo numero di parametri che effettivamente cambiano durante il processo di fusione, la complessità del sistema diventa gestibile per le prove di sicurezza. Hanno anche esplorato una tecnica chiamata prior dipendenti dai dati (data-dependent priors), che consiste nell'utilizzare una piccola parte dei dati di addestramento per impostare un punto di partenza migliore per il calcolo della sicurezza. Ciò ha ulteriormente ristretto le garanzie, provando che il metodo è robusto e adattabile. Lo studio non ha sostenuto di aver risolto tutti i problemi della sicurezza dell'IA, ma ha fornito una via chiara per certificare i sistemi in regimi di scarsità di dati, uno scenario critico per le applicazioni nel mondo reale dove i dati sono costosi o difficili da ottenere.

Le implicazioni di questa scoperta vanno oltre i semplici numeri. Suggeriscono che la sicurezza degli esistenti sistemi di IA potrebbe essere più facile da verificare di quanto precedentemente pensato. Se i metodi utilizzati per combinare i modelli possono essere certificati così facilmente, allora i sistemi costruiti con questi metodi possono essere affidati con maggiore fiducia. I ricercatori hanno sottolineato che questo approccio funziona sia per il riconoscimento delle immagini che per la comprensione del linguaggio, indicando che il principio è generale e non limitato a un tipo specifico di IA. Dimostrando che garanzie non vacue, o significative, sono possibili per modelli grandi quanto sette miliardi di parametri con solo cento esempi, il team ha aperto una nuova strada per garantire che l'intelligenza artificiale possa essere implementata in sicurezza nelle aree più critiche della vita umana. Il lavoro è una dimostrazione del fatto che, a volte, la chiave per risolvere un problema teorico complesso non è costruire una macchina più grande, ma guardare la macchina esistente da un'angolazione diversa.