Neither Adversarial Training Nor Purification: Emergent Adversarial Robustness from Oscillatory Predictive Learning
Questo articolo introduce l'Oscillatory Predictive Learning (OPL), un framework che combina neuroni oscillanti di Kuramoto artificiali con un pre-addestramento auto-supervisionato predittivo che raggiunge una robustezza avversaria competitiva su CIFAR-10 e CIFAR-100 senza fare affidamento su un costoso addestramento avversario o sulla purificazione al tempo di test.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel mondo dell'intelligenza artificiale, i sistemi di visione artificiale sono straordinariamente bravi a riconoscere oggetti, da un gatto su un albero a un segnale di stop su una strada. Tuttavia, questi sistemi hanno una fragilità nascosta. Un essere umano può guardare la foto di un panda e vedere un panda, ma se un attaccante aggiunge un minuscolo, quasi invisibile schema di rumore statico all'immagine, il computer potrebbe improvvisamente e con sicurezza identificarlo come un gibbone. Questa vulnerabilità è nota come debolezza avversaria. Per anni, il modo standard per risolvere il problema è stato addestrare il computer mostrandogli milioni di queste immagini truccate, costringendolo a imparare come ignorare il rumore. Questo processo è incredibilmente costoso, richiede enormi quantità di potenza di calcolo e tempo, e spesso rallenta il sistema durante il suo effettivo utilizzo. I ricercatori si sono a lungo chiesti se esista un modo più intelligente per costruire questi sistemi fin dall'inizio, magari progettando la loro struttura interna affinché sia naturalmente resistente a tali trucchi, piuttosto che limitarsi a forzare la soluzione attraverso un addestramento infinito tramite la forza bruta.
Un team di ricercatori ha proposto un nuovo approccio che evita del tutto la necessità di queste costose sessioni di addestramento. Invece di alimentare il modello con milioni di immagini corrotte, hanno costruito un sistema che impara a prevedere cosa viene dopo in una sequenza di immagini, combinato con un meccanismo interno unico che imita la sincronizzazione ritmica trovata in natura. Chiamano questo metodo Apprendimento Predittivo Oscillatorio (Oscillatory Predictive Learning). L'idea centrale è quella di dare al computer un tipo specifico di "orologio" interno o ritmo che mantenga le sue diverse parti in sincronia, rendendo più difficile per un piccolo cambiamento malevolo sbilanciare l'intero sistema. Quando hanno testato questo metodo, hanno scoperto che il sistema è diventato sorprendentemente resistente agli attacchi, raggiungendo alti livelli di sicurezza senza aver mai visto un singolo esempio avversario durante il suo addestramento.
I ricercatori hanno testato il loro sistema su due set standard di immagini utilizzati per addestrare i computer: uno con dieci diverse categorie come aerei e automobili, e un altro con cento categorie. Hanno sfidato il sistema con un set rigoroso di test progettati per trovare i punti deboli del modello. Nel primo test, che coinvolgeva il set a dieci categorie, il loro nuovo metodo ha identificato correttamente le immagini il 76,63% delle volte anche quando le immagini erano sotto attacco. Questo è un miglioramento significativo rispetto ad altri metodi che si affidano alla casualità per difendersi dagli attacchi, i quali tipicamente ottengono punteggi intorno al 71%. Quando si sono spostati sul più difficile set a cento categorie, il sistema è riuscito comunque a mantenere la posizione con un tasso di successo del 50,44%. Questi risultati sono degni di nota perché il sistema ha raggiunto questo livello di sicurezza senza il pesante costo computazionale solitamente richiesto per rendere un modello robusto.
Per capire perché questo abbia funzionato, il team ha scomposto la propria creazione nelle sue due parti principali. La prima parte è un tipo speciale di strato di rete neurale che utilizza unità oscillanti, che sono come piccoli pendoli accoppiati che si influenzano a vicenda. La seconda parte è un metodo di apprendimento che insegna al sistema a prevedere le visualizzazioni future di un'immagine basandosi su quelle attuali. Quando hanno testato queste parti separatamente, hanno scoperto che la struttura oscillante da sola forniva una solida base di difesa, ma non era sufficiente da sola. La parte dell'apprendimento predittivo, quando applicata a un modello standard di visione artificiale, non faceva quasi nulla per fermare gli attacchi. Tuttavia, quando hanno combinato la struttura oscillante con l'apprendimento predittivo, la difesa è diventata molto più forte. L'addestramento predittivo sembrava amplificare la naturale stabilità delle parti oscillanti, creando un sistema molto più resiliente della somma delle sue parti.
I ricercatori hanno anche scoperto che questa robustezza è una cosa delicata, che esiste solo sotto condizioni molto specifiche. Hanno scoperto che la dimensione delle unità dell' "orologio" interno contava immensamente. Quando le unità erano impostate su una dimensione specifica e piccola, il sistema era altamente resistente agli attacchi. Ma quando hanno aumentato la dimensione di queste unità per rendere il sistema più flessibile e migliore nel riconoscere le immagini in condizioni normali, la difesa è crollata improvvisamente. Il sistema è diventato quasi completamente vulnerabile agli attacchi, nonostante fosse migliore nell'identificare immagini pulite. Ciò suggerisce che la sicurezza del sistema non derivi dal rendere il modello semplicemente più grande o più potente. Al contrario, essa si basa su un insieme ristretto e rigoroso di regole che mantengono sincronizzati i ritmi interni. Se il sistema è lasciato con troppa libertà, perde la sua capacità di resistere alla manipolazione.
Questo lavoro suggerisce una nuova strada da seguire per costruire un'intelligenza artificiale sicura. Sfida la convinzione di lunga data secondo cui l'unico modo per rendere un modello robusto sia addestrarlo su milioni di esempi avversari. Combinando un design architettonico specifico con un metodo di auto-apprendimento, i ricercatori hanno dimostrato che la robustezza può emergere naturalmente dal modo in cui il sistema è costruito e da come apprende. Sebbene il sistema debba ancora essere perfezionato per lavorare su dataset di immagini più grandi e complessi, i risultati offrono un'alternativa promettente ai metodi attuali, che sono computazionalmente costosi. Indica che, progettando attentamente la dinamica interna di un modello, potremmo essere in grado di creare un'IA che sia non solo intelligente, ma anche intrinsecamente difficile da ingannare.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.