Invariance can prevent overfitting and shortcut learning in Quantum Neural Networks
Questo articolo dimostra che l'incorporazione della simmetria nelle reti neurali quantistiche migliora significativamente la generalizzazione, la robustezza all'apprendimento di scorciatoie e la resilienza al rumore rispetto a modelli non invarianti con architetture e conteggi di parametri identici attraverso diverse attività di classificazione di immagini.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dall'autore. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel mondo dell'intelligenza artificiale, i computer stanno imparando a vedere il mondo scansionando immagini e individuando schemi. Quando una macchina guarda la fotografia di un gatto, non le importa se il gatto è seduto dritto, sdraiato o visto da un'angolazione diversa; l'etichetta "gatto" rimane la stessa. Questa capacità di riconoscere che l'identità fondamentale di un oggetto rimane costante anche quando la sua posizione cambia è chiamata invarianza. Per decenni, gli ingegneri hanno costruito programmi per computer classici che hanno codificato questa regola, insegnando loro a ignorare rotazione e riflessione per poter apprendere più velocemente e con maggiore precisione. Ora, gli scienziati stanno cercando di costruire un nuovo tipo di computer che utilizza le strane leggi della fisica quantistica per elaborare informazioni. Queste macchine quantistiche sono incredibilmente potenti in teoria, ma sono attualmente molto piccole e fragili, soggette a commettere errori quando cercano di apprendere da dati limitati. Una domanda fondamentale è stata se queste nuove macchine quantistiche possano anche imparare a ignorare la posizione di un oggetto per diventare migliori apprendiste, o se la loro fisica unica le renda troppo sensibili a tali dettagli.
Un team di ricercatori ha deciso di rispondere a questo quesito costruendo quattro diversi modelli quantistici per risolvere compiti di classificazione di immagini. Volevano vedere se costringere un computer quantistico a rispettare la simmetria di un'immagine — ovvero, che tratti un'immagine ruotata come lo stesso oggetto — avrebbe aiutato l'apprendimento. Per farlo equamente, hanno costruito quattro modelli distinti che erano identici in tutto tranne che per il modo in cui gestivano la simmetria. Hanno utilizzato lo stesso numero di bit quantistici, lo stesso numero di impostazioni regolabili e la stessa struttura matematica sottostante. Due di questi modelli sono stati progettati per essere "invarianti" per natura, il che significa che le loro regole interne li costringevano a ignorare l'orientamento dell'immagine. Gli altri due sono stati invece autorizzati a notare l'orientamento, trattando un'immagine ruotata come un input completamente diverso. I ricercatori hanno testato questi modelli su quattro diverse sfide: riconoscere numeri scritti a mano, identificare forme geometriche semplici, distinguere tra due tipi di galassie e individuare diverse forme di globuli rossi. In ogni caso, le immagini apparivano con rotazioni casuali, proprio come potrebbero accadere nel mondo reale.
I risultati sono stati chiari e coerenti in tutti e quattro i compiti. I modelli che sono stati costruiti per ignorare l'orientamento delle immagini hanno imparato molto più velocemente e hanno commesso meno errori su nuove immagini mai viste prima. Poiché sono stati costretti a concentrarsi solo sulla forma dell'oggetto e non sulla sua posizione, non hanno sprecato la loro limitata capacità di apprendimento memorizzando dettagli specifici delle foto di addestramento. Al contrario, i modelli che sono stati autorizzati a notare l'orientamento hanno rapidamente memorizzato le pose esatte delle poche immagini che gli sono state mostrate. Quando questi modelli non invarianti si sono trovati di fronte a una nuova immagine con una rotazione diversa, spesso sono falliti completamente. I ricercatori hanno scoperto che rendere il circuito del computer quantistico simmetrico non era sufficiente; anche l'ultimo passaggio in cui il computer legge la sua risposta doveva essere simmetrico. Se il computer era stato costruito con regole simmetriche ma gli veniva chiesto di dare una risposta non simmetrica, falliva comunque nel generalizzare.
Lo studio ha anche esplorato un problema comune nel machine learning chiamato "apprendimento per scorciatoie" (shortcut learning), in cui un modello trova un trucco facile per indovinare la risposta invece di apprendere la regola reale. I ricercatori hanno aggiunto una piccola filigrana nascosta nell'angolo di ogni immagine di addestramento per vedere se i modelli si sarebbero affidati ad essa. I modelli che potevano notare l'orientamento hanno imparato questo trucco istantaneamente; guardavano l'angolo, vedevano la filigrana e indovinavano la risposta senza mai guardare l'immagine principale. Quando i ricercatori hanno spostato la filigrana in un angolo diverso, questi modelli sono falliti, scendendo al livello di un indovinare casuale. I modelli invarianti, tuttavia, non potevano vedere la filigrana affatto perché essa si muoveva con la rotazione dell'immagine. Inveve, erano costretti a guardare il contenuto effettivo dell'immagine, e continuavano a identificare correttamente gli oggetti anche quando il trucco veniva rimosso.
Infine, il team ha testato come questi risultati resistessero al rumore e agli errori tipici dell'attuale hardware quantistico. I veri computer quantistici sono imperfetti, e i loro segnali sono spesso distorti dal calore e dalle interferenze. I ricercatori hanno simulato queste condizioni e hanno scoperto che il vantaggio dei modelli invarianti sopravviveva. Anche quando i segnali quantistici erano rumorosi, i modelli che ignoravano l'orientamento rimanevano più accurati e meno soggetti all'overfitting rispetto ai loro omologhi. Lo studio suggerisce che, affinché i computer quantistici siano utili nel mondo reale, specialmente quando i dati sono scarsi, costruire la simmetria direttamente nel loro design è uno strumento potente. Essa agisce come un parapetto, impedendo alla macchina di distrarsi con dettagli irrilevanti e aiutandola a concentrarsi sui veri schemi che definiscono il mondo che la circonda.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.