Sign-Symmetry Learning Rules are Robust Fine-Tuners

Immagina di insegnare a un robot a riconoscere gatti, cani e auto. Per decenni, il punto di riferimento per l'addestramento di questi cervelli digitali è stato un metodo chiamato "Backpropagation" (retropropagazione). Immaginalo come un coach severo e perfezionista che osserva ogni singola mossa del robot, calcola l'errore esatto fino all'infinitesimo decimale e invia un segnale di correzione preciso attraverso l'intero sistema nervoso del robot. Funziona incredibilmente bene, rendendo il robot intelligente e veloce. Tuttavia, questo coach ha un punto debole segreto: se qualcuno riesce a far scivolare un minuscolo, quasi invisibile granello di polvere su una foto di un gatto, il robot potrebbe improvvisamente urlare "È un tostapane!" perché i calcoli perfetti del coach sono troppo sensibili a quel piccolo trucco. Questo è chiamato un "attacco avversario" (adversarial attack), ed è un problema maggiore per la fiducia nell'IA nel mondo reale. Gli scienziati hanno cercato a lungo di trovare un modo diverso per insegnare ai robot — un modo che imiti come i nostri veri cervelli umani imparano — usando segnali più grossolani e biologici invece di una matematica perfetta. Ma questi metodi "biologicamente plausibili" di solito rendevano i robot più stupidi e lenti, così la maggior parte delle persone si è arresa.

Ora, un team di ricercatori ha deciso di tentare un approccio ibrido molto intelligente. Hanno chiesto: "E se usassimo il coach severo per insegnare al robot le basi, ma poi passassimo al coach più grossolano e biologico solo per la lucidatura finale?" In questo nuovo studio, hanno pre-addestrato le reti neurali (il cervello del robot) usando il metodo standard e perfetto. Poi, invece di finire l'addestramento con lo stesso coach severo, hanno usato un insieme di regole chiamate "Sign-Symmetry" (Simmetria del Segno). Queste regole sono come un coach che si preoccupa solo della direzione dell'errore (su o giù, sinistra o destra) piuttosto che della dimensione esatta dell'errore. Non hanno bisogno di conoscere il peso preciso di ogni connessione; devono solo sapere in che direzione dare una spinta. I ricercatori hanno scoperto che questa "lucidatura più grossolana" non ha reso il robot meno intelligente nel riconoscere le cose. Anzi, ha reso il robot incredibilmente resistente. Quando gli attaccanti hanno cercato di truffare il robot con quei minuscoli e invisibili granelli di polvere, il robot che utilizzava le regole della Sign-Symmetry ha quasi smosso un capello, mentre il robot addestrato interamente con il coach severo è crollato. Si scopre che, non essendo così ossessionati dalla precisione perfetta, il robot è diventato molto più difficile da ingannare.

La Storia della Lucidatura Grossolana

Entriamo nel dettaglio di come funziona. I ricercatori sono partiti dall'idea che il coach severo (Backpropagation) sia ottimo per costruire una base solida. È come imparare ad andare in bicicletta con le rotelle che forniscono dati perfetti sull'equilibrio. Ma una volta che sai come andare in bici, forse non hai più bisogno di quei sensori perfetti. Il team ha preso modelli pre-addestrati — reti neurali che avevano già imparato a riconoscere immagini usando il metodo standard — e ha dato loro una sessione di "fine-tuning" (perfezionamento) usando le regole della Sign-Symmetry.

Esistono alcuni diversi "gusti" di queste regole, come uSF (Feedback a segno concordante uniforme), frSF (Feedback a segno concordante a magnitudo casuale fissa) e brSF (Feedback a segno concordante a magnitudo casuale per batch). Puoi pensare a queste come diversi modi di dare una spinta al robot. Inveve di dire: "Eri fuori di 0,043 unità verso sinistra", il coach della Sign-Symmetry dice semplicemente: "Ehi, ti stai inclinando a sinistra, spingi a destra!". Ignora i numeri esatti e si concentra sul segno (positivo o negativo) dell'errore.

Il team ha testato questo su due compiti principali: la Classificazione di Immagini (dire cosa c'è in una foto) e il Hashing-based Image Retrieval (ritrovare immagini simili in un enorme database). Hanno utilizzato cervelli robotici popolari come AlexNet, VGG-16 e ResNet-18, e li hanno testati su dataset famosi come CIFAR-10, MS-COCO e ImageNet.

I risultati sono stati sorprendenti ed entusiasmanti. Per quanto riguarda l'essere intelligenti, i robot perfezionati con la Sign-Symmetry erano bravi quanto quelli addestrati interamente con il coach severo. In alcuni casi, erano persino migliori! Ad esempio, sul dataset CIFAR-10 con un cervello AlexNet, i metodi della Sign-Symmetry hanno raggiunto un'accuratezza top-1 del 93,75%, battendo il 90,62% del coach standard. Sul dataset ImageNet con un cervello ResNet-18, hanno eguagliato l'accuratezza dell'87,5% del coach standard. Il punto chiave qui è che non perdi alcuna intelligenza passando al coach più grossolano per gli ultimi passaggi.

Ma la vera magia è avvenuta quando hanno testato quanto bene questi robot gestissero i problemi. I ricercatori hanno lanciato "attacchi avversari" contro di loro. Questi sono come hacker digitali che cercano di truffare il robot aggiungendo piccole quantità di rumore a un'immagine. Hanno usato due tipi di attacchi: FGSM e PGD. Questi sono attacchi "white-box" (scatola bianca), il che significa che gli hacker sapevano esattamente come pensava il robot e hanno usato quella conoscenza per creare il trucco perfetto.

Quando hanno attaccato i robot standard (addestrati solo con la Backpropagation), i robot sono crollati rapidamente. Man mano che gli hacker aumentavano il rumore (rappresentato da un valore chiamato $\epsilon$), l'accuratezza dei robot standard precipitava. Sul dataset ImageNet, quando il livello di rumore ha raggiunto 0,5, l'accuratezza del robot standard è scesa quasi allo 0%. Era completamente ingannato.

Tuttavia, i robot che erano stati perfezionati con la Sign-Symmetry erano come vecchi stivali resistenti. Non sono crollati. Anche con lo stesso forte rumore, hanno mantenuto la loro accuratezza molto meglio. Negli esperimenti con ResNet-18, il divario tra il robot standard e il robot Sign-Symmetry era enorme — a volte con una differenza di accuratezza del 71,88%. La linea del robot standard scendeva come una pietra, mentre la linea del robot Sign-Symmetry scendeva dolcemente, come uno scivolo. Questo suggerisce che, poiché le regole della Sign-Symmetry non dipendono da gradienti perfetti ed esatti, gli hacker non possono facilmente calcolare il trucco perfetto per ingannarli. È come cercare di scassinare una serratura quando i meccanismi sono leggermente lenti e casuali; la chiave perfetta non funziona più.

Il team ha anche controllato se questi robot fossero vulnerabili ad attacchi "black-box" (scatola nera), dove l'hacker non sa come pensa il robot e prova solo trucchi casuali. In questi casi, i robot Sign-Symmetry si sono comportati bene quanto quelli standard. Questo è un dettaglio cruciale: significa che i robot non sono diventati più deboli in generale; sono diventati specificamente più difficili da ingannare per gli hacker che si affidano alla loro matematica interna.

I ricercatori hanno anche esaminato il compito di "hashing", che è come organizzare una biblioteca trasformando le copertine dei libri in codici brevi e unici. Hanno trovato risultati simili anche qui. Quando attaccati con metodi come HAG e SDHA, le prestazioni dei robot standard (misurate come Mean Average Precision, o mAP) sono crollate. Ad esempio, su ImageNet, il mAP del robot standard è sceso intorno al 12% ad alti livelli di rumore, mentre i robot Sign-Symmetry sono rimasti intorno al 40%.

Uno dei risultati più interessanti è stato che il metodo chiamato frSF (Fixed Random-magnitude Sign-concordant Feedback) sembrava essere il più stabile e performante di tutti. Ha mantenuto costantemente la sua posizione attraverso diversi tipi di cervelli robotici e dataset.

Quindi, cosa significa tutto questo? Il documento suggerisce che non dobbiamo scegliere tra essere intelligenti e l'essere duri. Possiamo avere entrambi. Usando il coach severo e perfetto per costruire le fondamenta e poi passando al coach più grossolano e in stile biologico per il tocco finale, otteniamo un robot che è altrettanto intelligente ma molto più difficile da ingannare. Gli autori propongono che questo approccio "Sign-Symmetry" potrebbe essere un nuovo modo per rendere l'IA più sicura e affidabile, specialmente in situazioni in cui non possiamo permetterci di essere ingannati. Ammettono che è necessario ulteriore lavoro per vedere come questo funzioni su sistemi ancora più grandi e complessi, ma i risultati iniziali sono un forte indizio che lo stile di apprendimento "ruvido e turbolento" della natura potrebbe essere l'ingrediente segreto che ci mancava per rendere i nostri cervelli digitali davvero robusti.