Task complexity shapes internal representations and robustness in neural networks

Riassunto Tecnico: La Complessità del Compito Modella le Rappresentazioni Interne e la Robustezza nelle Reti Neurali

Enunciato del Problema
Le reti neurali hanno ottenuto un successo diffuso, ma rimangono in gran parte opache "scatole nere", in particolare per quanto riguarda il modo in cui le loro rappresentazioni interne sono plasmate dalla complessità dei dati di input e dai problemi che risolvono. Sebbene l'interpretabilità meccanica (MI) cerchi di invertire l'ingegneria dei parametri della rete, è necessario comprendere come la difficoltà del compito influenzi la topologia e la robustezza delle rappresentazioni apprese. Nello specifico, non è chiaro se la precisione delle grandezze dei pesi o l'organizzazione strutturale delle connessioni (ad esempio, i pattern di segno) siano più critiche per le prestazioni del modello in compiti di difficoltà variabile.

Metodologia
Gli autori affrontano i Perceptron Multistrato (MLP) da una prospettiva di scienza delle reti, rappresentando ogni livello come un grafo bipartito pesato e con segno. Confrontano compiti di classificazione "facili" e "difficili" utilizzando i dataset MNIST e Fashion-MNIST. La difficoltà del compito viene inizialmente identificata utilizzando l'Indice di Similarità Strutturale (SSIM) per selezionare coppie di classi con alta similarità visiva (difficili) e bassa similarità visiva (facili), sebbene la definizione centrale di complessità sia successivamente definita dalla risposta della rete alle perturbazioni.

Lo studio impiega cinque sonde agnostiche rispetto ai dati per quantificare come la difficoltà del compito influenzi la robustezza della rete:

1. Potatura (Pruning): Rimozione iterativa degli spigoli con i pesi assoluti più piccoli.
2. Binarizzazione: Riduzione di tutti i pesi a $\pm 1$ (preservando solo il segno).
3. Iniezione di Rumore: Aggiunta di rumore uniforme a media zero di ampiezza variabile ai pesi.
4. Inversione del Segno: Inversione dei segni dei pesi con la minima grandezza.
5. Randomizzazione del Grafo Bipartito: Mescolamento delle connessioni preservando specifiche proprietà strutturali (ad esempio, distribuzioni del grado, conservazione del segno).

Queste sonde vengono applicate a MLP addestrati su compiti di classificazione binaria facili e difficili. Inoltre, gli autori applicano queste sonde ai singoli livelli di un modello DistilBERT pre-addestrato e fine-tunato per il Riconoscimento di Entità Nominate (NER) per testare la generalizzabilità oltre i semplici MLP.

Risultati Chiave

• Binarizzazione e Robustezza: La binarizzazione dei pesi nei modelli addestrati su compiti difficili provoca il crollo dell'accuratezza a livelli casuali. Al contrario, i modelli addestrati su compiti facili rimangono robusti alla binarizzazione.
• Transizioni di Fase nella Potatura: Quando gli spigoli a bassa grandezza vengono potati dai modelli binarizzati per compiti difficili, si osserva una netta transizione di fase nelle prestazioni a un livello caratteristico di sparsità. Interessantemente, la potatura può talvolta migliorare l'accuratezza dei modelli binarizzati per compiti difficili, suggerendo una rimozione di rumore dannoso.
• Risonanza Stocastica: L'iniezione di rumore moderato nei modelli binarizzati può migliorare l'accuratezza, assomigliando a un effetto di risonanza stocastica. Questo picco di prestazioni corrisponde all'inversione ottimale dei segni per i pesi a piccola grandezza.
• Struttura del Segno vs. Grandezza: Gli esperimenti di randomizzazione bipartita rivelano che preservare la struttura del segno (connessioni positive vs. negative) e le distribuzioni del grado è sufficiente a mantenere un'alta accuratezza sui compiti facili, mentre non lo è la preservazione delle precise grandezze dei pesi. Se la struttura del segno viene disturbata, l'accuratezza scende al livello casuale.
• Robustezza Livello per Livello nei Transformer: Nel caso di studio su DistilBERT, i primi livelli risultano essere i meno robusti alla binarizzazione e alla potatura, con un rapido calo delle prestazioni. I livelli più profondi mostrano una notevole resilienza, mantenendo alti punteggi F1 anche quando binarizzati o randomizzati, probabilmente a causa delle connessioni residue.
• Quantificazione della Complessità del Compito: Gli autori propongono una misura agnostica rispetto al modello e alla modalità della complessità del compito, definita dal divario di prestazioni tra le reti a precisione completa e le loro controparti binarizzate o mescolate. Un divario più ampio indica un compito più difficile.

Significato e Affermazioni
Il documento afferma di definire una nuova misura agnostica rispetto ai dati della complessità del compito basata sulla robustezza delle rappresentazioni apprese alle perturbazioni strutturali. I risultati evidenziano che per compiti più semplici, l'organizzazione specifica delle connessioni positive e negative (la topologia bipartita con segno) è più critica per la funzione rispetto ai precisi valori in virgola mobile dei pesi. Al contrario, i compiti difficili si basano maggiormente sulle precise grandezze dei pesi.

In termini pratici, gli autori suggeriscono che queste intuizioni offrono strategie per la compressione dei modelli e l'interpretabilità allineate alla complessità del compito. Nello specifico, i livelli o i modelli addestrati su compiti dove la struttura del segno domina (ad esempio, compiti più semplici o livelli più profondi di transformer) possono essere candidati per la binarizzazione al momento dell'inferenza senza una significativa perdita di accuratezza. Il lavoro colma il divario tra scienza delle reti e deep learning, applicando strumenti come modelli nulli e randomizzazione di grafi per rivelare comportamenti simili a transizioni di fase negli spazi dei pesi delle reti neurali dipendenti dalla difficoltà del compito.