A Riemannian View on Active Subspaces

Sintesi Tecnica: Una Prospettiva Riemanniana sugli Spazi Attivi

Enunciato del Problema
Gli spazi attivi forniscono un metodo basato su autovalori e ordinato per la riduzione della dimensionalità in domini euclidei ad alta dimensione. Essi identificano un sottospazio a bassa dimensione dove una quantità scalare di interesse, $f: \mathbb{R}^n \to \mathbb{R}$, varia più significativamente in media, pur rimanendo quasi costante nel complemento ortogonale. Tuttavia, molte applicazioni moderne coinvolgono parametri che risiedono naturalmente su varietà riemanniane (ad esempio, l'analisi della forma pre-forma, dove gli spazi di pre-forma sono ipersfere) piuttosto che in spazi euclidei. La definizione standard degli spazi attivi si basa sull'isomorfismo canonico dello spazio euclideo, che consente la media globale dei vettori gradiente. Su una varietà curva, i vettori tangente in punti diversi appartengono a spazi tangente distinti, rendendo una media globale diretta mal definita senza un meccanismo per confrontarli. Il documento affronta la sfida di estendere il framework degli spazi attivi a funzioni lisce definite su varietà riemanniane, preservando l'interpretabilità degli autovalori come derivate direzionali medie quadrate.

Metodologia
Il documento sviluppa una formulazione intrinseca degli spazi attivi su una varietà riemanniana $(M, g)$ generalizzando il prodotto esterno del gradiente. La metodologia principale prevede tre fasi chiave:

1. Media Intrinseca tramite Trasporto Parallelo: Per definire una media globale dei gradienti, gli autori trasportano ciascun gradiente riemanniano $\nabla_M f(p)$ dal suo spazio tangente locale $T_p M$ a uno spazio tangente centrale $T_{p_0} M$ lungo l'unica geodetica che connette $p$ a un punto centrale $p_0$. Ciò è ottenuto utilizzando l'operatore di trasporto parallelo $P_p$. Il risultante "prodotto esterno del gradiente medio riemanniano" è definito come:
   $$G_0 = \int_X P_p [\nabla_M f(p)] \otimes P_p [\nabla_M f(p)] \, d\mu(p)$$
   dove $\mu$ è una misura di probabilità sulla varietà (tipicamente supportata su una ball di geodetica). Questa costruzione produce un tensore simmetrico semidefinito positivo sul singolo spazio vettoriale $T_{p_0} M$.

2. Geodetiche di Varietà Attive (AMG): La decomposizione in autovettori di $G_0$ fornisce autovalori $\lambda_i$ e autovettori $w_i$ in $T_{p_0} M$. Gli autori definiscono le "Geodetiche di Varietà Attive" (Active Manifold-Geodesics o AMG) come le immagini delle rette span con questi autovettori sotto l'esponenziale di mappa: $W_{1,i} = \{ \exp_{p_0}(t w_i) \}$. Queste geodetiche fungono da direzioni attive sulla varietà.

3. Confronto Intrinseco vs. Estrinseco: Il documento mette a confronto questo approccio intrinseco con uno estrinseco, in cui la varietà è immersa in uno spazio euclideo \mathbb_R^m a dimensione superiore. Il metodo estrinseco media i gradienti ambientali e li proietta allo spazio tangente centrale. Gli autori derivano una relazione precisa tra i due, mostrando che lo spettro estrinseco è una versione "conflata" dello spettro intrinseco a causa della isometria parziale della proiezione.

Contributi Chiave
Il documento presenta quattro contributi primari:

• Generalizzazione Intrinseca: Introduce il prodotto esterno del gradiente tramite trasporto parallelo (Equazione 12) come un tensore indipendente dalle coordinate i cui autovalori forniscono un'interpretazione esatta come derivate direzionali medie quadrate lungo un campo di vettori trasportato (Lemma 1).
• Geodetiche di Varietà Attive: Definisce un insieme ordinato di direzioni geodetiche (Definizione 3) che generalizzano gli spazi attivi. A differenza delle riduzioni completamente non lineari (ad esempio, varietà attive o reti neurali) che possono degenerare in curve riempitive di spazio, le AMG mantengono una bassa complessità e identificabilità limitando la ricerca alle immagini esponenziali di rette in un singolo spazio tangente.
• Accordo Quantitativo Intrinseco-Estrinseco: Il documento stabilisce che, sebbene le prospettive intrinseca ed estrinseca differiscano fondamentalmente, esse concordano al secondo ordine ($O(R^2)$) rispetto al raggio $R$ della ball di geodetica campionata. Nello specifico, gli autovalori concordano a $O(R^2)$, e gli eigenspazi dominanti concordano a $O(R^2/\eta)$ dove $\eta$ è il gap spettrale (Proposizione 3). Fondamentalmente, dimostra che proiettare l'autovettore ambiente dominante (una pratica estrinseca comune) può fallire se la direzione si trova nello spazio nullo della proiezione, mentre il metodo intrinseco rimane robusto.
• Applicazione all'Analisi della Forma: La teoria è esplicitamente motivata e applicata agli spazi di pre-forma nell'analisi statistica della forma, che sono ipersfere. I risultati forniscono un quadro diretto per la riduzione della dimensionalità guidata dalla risposta in funzioni di forma.

Risultati e Illustrazioni Numeriche
Gli autori validano il formalismo utilizzando esempi numerici sulla 2-sfera ($S^2$):

• Recupero della Cresta (Ridge Recovery): Per una funzione lineare ambiente ristretta sulla sfera (una funzione a cresta), l'AMG intrinseca identifica con successo la direzione geodetica attiva. Il documento dimostra che la struttura a cresta viene recuperata in coordinate normali con un errore che decade a un tasso quadratico limitato dalla curvatura ($O(R^2)$), coerentemente con la Proposizione 3.
• Casi Degenerati: Il documento esamina uno scenario in cui il punto centrale coincide con la direzione del gradiente di una cresta ambiente. In questo caso, il metodo estrinseco (proiezione dell'autovettore ambiente dominante) fallisce, producendo un vettore nullo banale. Al contrario, il metodo intrinseco identifica correttamente che nessuna singola direzione è dominante, restituendo due autovalori uguali, evitando così il modo di fallimento della "dominanza proiettata".
• Funzioni Non-Cresta: Per funzioni quadratiche che non sono creste, il metodo intrinseco fornisce una classificazione fedele delle direzioni basata esclusivamente sulla variazione della funzione, mentre il metodo estrinseco intreccia questa variazione con la geometria della sua immersione.

Significatività e Rivendicazioni
Il documento sostiene che la formulazione intrinseca offre una rappresentazione più fedele della geometria del dominio, libera dagli artefatti di una specifica immersione. Argomenta che, sebbene i metodi estrinseci siano computazionalmente convenienti, essi introducono una "isometria parziale" che può distorcere l'ordinamento di importanza, particolarmente quando si estende l'attività oltre il punto centrale.

Gli autori sottolineano che il metodo proposto è geodesicamente locale. L'interpretazione degli autovalori come indicatori di sottovarietà inattive è strettamente valida solo all'interno di un vicinato normale (una ball di geodetica) centrato in $p_0$. Estendere questo concetto a un dominio globale richiederebbe un atlante di analisi locali o una struttura di foliazione più complessa, come notato nel lavoro futuro. Il documento non pretende di risolvere il problema globale della riduzione della dimensionalità per varietà arbitrarie, ma fornisce un'estensione rigorosa, spiegabile e localmente ottimale degli spazi attivi per funzioni lisce su varietà riemanniane, con applicabilità immediata ai dati ipersferici nell'analisi della forma.