🤖 machine learning

Transformer Geometry Observatory TGO-II: Representational Similarity Observatory

Questo articolo introduce il framework Transformer Geometry Observatory-II (TGO-II) per rivelare che i Vision Transformer sviluppano complessità rappresentazionale e specializzazione degli strati attraverso un'espansione progressiva del manifold e trasformazioni più ricche, mantenendo al contempo forti strutture di interazione tra i token durante l'addestramento.

Autori originali: Kaustubh Kapil, Kishor P. Upla

Pubblicato 2026-07-03

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Kaustubh Kapil, Kishor P. Upla

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina un Vision Transformer (un tipo di IA che "vede" le immagini) non come una scatola nera, ma come una massiccia fabbrica a più piani. Ogni piano di questa fabbrica rappresenta un "livello" (layer) dove l'IA elabora l'immagine.

Per molto tempo, gli scienziati hanno saputo che questa fabbrica diventava più brava nel suo lavoro man mano che veniva addestrata, ma non capivano davvero come il modo di pensare dei lavoratori su ogni piano cambiasse nel tempo. Si sono concentrati principalmente sul prodotto finale (ha riconosciuto correttamente il gatto?) o sugli strumenti usati dai lavoratori (i meccanismi di attenzione).

Questo articolo, TGO-II, introduce un nuovo "osservatorio" (una piattaforma di osservazione tecnologica) per guardare esattamente come le mappe del mondo interne dei lavoratori si evolvono dal primo giorno di addestramento fino all'ultimo.

Ecco cosa hanno scoperto, spiegato attraverso semplici analogie:

1. I lavoratori smettono di copiarsi l'un l'altro (Specializzazione)

L'analogia: Immagina un gruppo di stagisti al Giorno 1. Guardano tutti la stessa foto e disegnano schizzi quasi identici. Pensano tutti allo stesso modo.
La scoperta: Man mano che l'addestramento procede, i lavoratori su diversi piani smettono di fare la stessa cosa. Il documento ha misurato quanto fossero simili gli "schizzi" (rappresentazioni) tra i vari piani. Hanno scoperto che la somiglianza è diminuita nel tempo.
Cosa significa: I piani della fabbrica stanno diventando specializzati. I primi piani potrebbero concentrarsi su bordi e forme, mentre i piani successivi si concentrano su concetti complessi come "pelliccia" o "ruote". Non si limitano più a copiarsi l'un l'altro; stanno delineando i propri ruoli unici.

2. Lo spazio di lavoro diventa più grande e complesso (Espansione del Manifold)

L'analogia: Immagina che gli stagisti stiano disegnando su un piccolo foglio di carta piatto. All'inizio, possono solo disegnare linee semplici. Ma man mano che imparano, si rendono conto di aver bisogno di più spazio. Iniziano a usare un modello 3D, poi una proiezione olografica. La "stanza" in cui lavorano diventa più grande e complessa.
La scoperta: Il documento ha misurato la "Dimensionalità Intrinseca", che è essenzialmente un conteggio di quanti diversi percorsi o "gradi di libertà" l'IA sta usando per descrivere un'immagine. Hanno scoperto che questo numero è aumentato rapidamente durante l'addestramento prima di stabilizzarsi.
Cosa significa: L'IA non sta solo diventando più brava nei suoi vecchi trucchi; sta letteralmente espandendo il suo spazio mentale di lavoro. Sta imparando a descrivere le immagini usando un insieme di dimensioni molto più ricco e complesso rispetto all'inizio.

3. I lavoratori rimangono connessi (Accoppiamento dei Token)

L'analogia: Un'ipotesi comune era che, man mano che l'IA diventava più intelligente, le diverse parti dell'immagine (come l'"orecchio del gatto" e la "coda del gatto") avrebbero smesso di comunicare tra loro per diventare indipendenti, come estranei in una folla.
La scoperta: Il documento ha esaminato quanto le diverse parti dell'immagine influenzassero l'una l'altra (covarianza dei token). Hanno scoperto che rimanevano forti connessioni durante l'intero processo di addestramento. L' "orecchio" e la "coda" non hanno mai smesso di interagire; anzi, i loro schemi di interazione sono diventati ancora più organizzati e strutturati.
Cosa significa: L'IA non diventa intelligente isolando le parti dell'immagine. Diventa intelligente coordinando le parti dell'immagine insieme in modi sempre più sofisticati. La "squadra" rimane strettamente unita, anche quando diventano esperti.

La Grande Sorpresa: La "Zona di Transizione"

I ricercatori hanno notato qualcosa di strano che accadeva intorno al 4° e 5° piano della fabbrica.

Piani 1–4: I lavoratori stavano cambiando rapidamente e la "stanza" si stava espandendo.
Poli 5–12: I lavoratori si sono assestati in un nuovo ritmo. La somiglianza tra i piani è diminuita, ma la complessità ha continuato a crescere.
L'ipotesi: Il documento suggerisce che questa sia una "Zona di Transizione". I primi piani gestiscono l'input grezzo e di base (come la porzione di pixel), e dopo il 4° o 5° piano, l'IA passa alla gestione di concetti astratti e di alto livello. È come se la fabbrica passasse dal lavoro di "linea di montaggio" al lavoro di "design creativo".

Sintesi della Nuova Teoria

Prima di questo articolo, le persone avrebbero potuto pensare: "L'IA diventa intelligente scomponendo l'immagine in pezzi indipendenti e analizzandoli separatamente."

TGO-II suggerisce l'opposto: L'IA diventa intelligente mantenendo i pezzi strettamente connessi, ma rendendo il modo in cui comunicano tra loro molto più complesso e specializzato. È come una band jazz: i musicisti non smettono di suonare insieme (non si disaccoppiano); invece, imparano armonie e improvvisazioni più complesse (espansione del manifold) mentre ogni musicista trova il proprio stile unico per i soli (specializzazione).

Cosa viene dopo?

Gli autori ammettono di non sapere ancora esattamente cosa significhino questi schemi complessi in termini di "significato" (semantica). Prevedono di costruire "TGO-III" per verificare se questa geometria complessa aiuti effettivamente l'IA a capire cos'è un "gatto" o un "auto", e "TGO-IV" per osservare come le singole parti dell'immagine si muovono e cambiano nel tempo.

In breve: L'IA impara espandendo la sua mappa mentale, specializzando i suoi livelli e mantenendo le sue parti interne strettamente connesse, piuttosto che scomponendo le cose.

Sintesi Tecnica: TGO-II: Osservatorio della Similitudine Rappresentazionale

Problema
Sebbene i Vision Transformer (ViT) abbiano raggiunto prestazioni allo stato dell'arte, l'evoluzione geometrica delle loro rappresentazioni interne durante l'addestramento supervisionato rimane insufficientemente compresa. Ricerche precedenti, inclusi i lavori precedenti degli autori (TGO-I), si sono concentrate pesantemente sui meccanismi di attenzione, sulle reti feed-forward e sulle proprietà spettrali (autovalori, rango effettivo) della covarianza delle caratteristiche. Tuttavia, la sola similitudine spettrale non conferma se gli strati eseguano computazioni simili, poiché gli strati possono condividere caratteristiche spettrali pur occupando sottospazi rappresentazionali distinti. Inoltre, le analisi esistenti spesso mancano di un'indagine sistematica su come la similitudine della rappresentazione, la complessità del manifold e le strutture di interazione dei token co-evolvano durante il processo di addestramento.

Metodologia
Gli autori introducono TGO-II (Transformer Geometry Observatory-II), un framework progettato per analizzare la geometria rappresentazionale di un modello ViT-Small/16 addestrato su ImageNet-100 per 100 epoche. Lo studio utilizza un sottoinsieme fisso di 1.000 immagini di validazione per garantire una osservabilità coerente. La metodologia impiega quattro strumenti analitici primari:

Similitudine della Rappresentazione: Misurata tramite Centered Kernel Alignment (CKA) e Singular Vector Canonical Correlation Analysis (SVCCA) per quantificare l'allineamento geometrico e la similitudine tra le rappresentazioni degli strati durante l'addestramento.
Dimensionalità Intrinseca: Stimata utilizzando la metrica Two-Nearest Neighbor Intrinsic Dimension (TwoNN-ID) per valutare la complessità e i gradi di libertà all'interno del manifold della rappresentazione appresa.
Struttura di Interazione dei Token: Analizzata tramite matrici di covarianza dei token e un rapporto di accoppiamento dei token. Questo approccio esamina le relazioni a coppia tra i token per determinare se diventino statisticamente indipendenti (disaccoppiati) o rimangano accoppiati con il progredire dell'addestramento.
Prospettive Complementari: Il framework tratta la covarianza dello spazio delle caratteristiche ( $C_{feat} \propto A^T A$ ) e la covarianza dello spazio dei token ( $C_{token} \propto AA^T$ ) come viste complementari della stessa geometria di rappresentazione sottostante, che condividono identici valori singolari non nulli.

Risultati Chiave
Gli esperimenti hanno prodotto tre osservazioni primarie riguardanti l'evoluzione geometrica delle rappresentazioni dei ViT:

Specializzazione Progressiva: Sia i punteggi CKA che quelli SVCCA mostrano un declino progressivo durante l'addestramento. Ciò indica che, con il procedere dell'addestramento, i transformer diventano sempre più specializzati, sviluppando geometrie rappresentazionali distinte invece di mantenere ridondanza. Si verifica una transizione notevole tra gli Strati 4 e 5, dove la similitudine scende prima di stabilizzarsi negli strati più profondi.
Espansione del Manifold: La dimensionalità intrinseca (TwoNN-ID) aumenta costantemente durante le fasi iniziali dell'addestramento prima di stabilizzarsi. Questa tendenza suggerisce un'espansione progressiva del manifold della rappresentazione verso un set più ampio di gradi di libertà localmente accessibili. La dimensionalità raggiunge il picco negli strati intermedi (specificamente lo Strato 8) e diminuisce nei blocchi finali, indicando un profilo di complessità dipendente dalla profondità.
Accoppiamento dei Token Persistente: Contrariamente all'ipotesi che la crescente complessità derivi dal fatto che i token diventino indipendenti, l'analisi della covarianza dei token rivela che forti strutture di interazione persistono durante l'addestramento. Invece di convergere verso una matrice diagonale, la covarianza dei token evolve in strutture organizzate, simili a strisce, particolarmente negli strati più profondi. Ciò dimostra che la complessità rappresentazionale cresce mentre i token rimangono fortemente accoppiati.

Contributi Chiave

Introduzione del Framework: La proposta di TGO-II come osservatorio sistematico per studiare la dinamica dell'apprendimento dei transformer attraverso la geometria della rappresentazione, completando l'attenzione spettrale di TGO-I.
Evidenza Empirica della Co-evoluzione: Fornire prove che l'aumento della complessità rappresentazionale (espansione del manifold) coesiste con la diminuzione della similitudine inter-strato (specializzazione) e l'accoppiamento persistente dei token.
Confutazione del Disaccoppiamento dei Token: Mettere in discussione l'ipotesi della "Diversificazione dei Token" dimostrando che i token non raggiungono una completa indipendenza statistica; piuttosto, la complessità emerge attraverso trasformazioni sofisticate di sistemi di token accoppiati.
Identificazione delle Zone di Transizione: Evidenziare un cambiamento comportamentale distinto intorno agli Strati 4–5, suggerendo una transizione dall'elaborazione di interazioni di basso livello dei token a una rappresentazione astratta e dipendente dal contesto.

Significatività e Rivendicazioni
L'articolo sostiene che questi risultati motivano una nuova ipotesi di lavoro: i Vision Transformer aumentano la complessità rappresentazionale attraverso trasformazioni progressivamente più ricche di sistemi di token altamente accoppiati, piuttosto che attraverso una progressiva indipendenza dei token.

Gli autori posizionano TGO-II come un passo necessario oltre l'analisi spettrale, sostenendo che comprendere la geometria delle rappresentazioni stesse è cruciale per un quadro completo dell'apprendimento dei transformer. Il lavoro suggerisce che l'osservata espansione spettrale (notata in TGO-I) è probabilmente guidata dall'Ipotesi dell'Espansione del Manifold, dove il manifold della rappresentazione sottostante si espande in dimensioni intrinseche superiori, consentendo relazioni tra caratteristiche più ricche senza richiedere il disaccoppiamento dei token.

Il documento rimane modesto riguardo alle rivendicazioni semantiche, notando che, sebbene sia osservata una specializzazione rappresentazionale, TGO-II non misura direttamente il contenuto semantico o la separazione delle classi. Di conseguenza, l'ipotesi dell'Espansione Semantica rimane inconclusiva in attesa di lavori futuri. Gli autori inquadrano questi risultati come una base per futuri osservatori (TGO-III attraverso TGO-VI) volti a collegare l'evoluzione geometrica alla struttura semantica, alla dinamica dei token, ai meccanismi di attenzione e ai paesaggi di ottimizzazione.