TERRA: Task-Embedded Reasoning and Representation Architecture for Cross-Domain Applications

Riepilogo Tecnico: TERRA – Task-Embedded Reasoning and Representation Architecture for Cross-Domain Applications

Stato della Ricerca: Questo è un progetto di ricerca e un quadro teorico. Gli autori dichiarano esplicitamente che non vengono presentati risultati empirici. Il lavoro converte un'intuizione ampiamente diffusa — ovvero che i modelli predittivi in un dominio strutturato (es. guida autonoma) possano trasferirsi in un altro (es. mercati finanziari) — in una teoria falsificabile con un programma sperimentale preregistrato.

1. Il Problema

Le attuali architetture di apprendimento predittivo (es. V-JEPA, Dreamer, RT-2) hanno ottenuto successi in domini specifici modellando stati latenti condizionati all'azione. Tuttavia, l'affermazione che una rappresentazione o un predittore appreso in un dominio (es. lo spazio di lavoro di un robot fisico) si trasferisca a un dominio strutturalmente analogo ma non correlato (es. un book ordini finanziario o una rete elettrica) rimane un'intuizione non testata.

Il problema centrale è la questione del trasferimento:

• Quando una rappresentazione appresa nel Dominio A si trasferisce al Dominio B?
• Di quanto avviene il trasferimento?
• Quali sono i limiti teorici di questo trasferimento e come possono essere misurati?

Il lavoro esistente manca di una teoria formale per spiegare quando tale trasferimento dovrebbe verificarsi o perché potrebbe fallire, in particolare per predittori latenti ad alta dimensionalità condizionati all'azione su griglie strutturate.

2. Metodologia e Quadro Teorico

Il documento propone un trattamento matematico formale del trasferimento cross-dominio, modellando i domini come Processi di Markov Controllati su Griglie Latenti Gradate.

A. Modellazione del Dominio e Fattorizzazione

• Dominio a Stato Strutturato: Definito come una tupla $(S, A, T, r)$ dove lo spazio degli stati $S$ ammette una rappresentazione a griglia gradata (es. griglie voxel per la guida, griglie prezzo-tempo per i book ordini).
• Fattorizzazione dell'Architettura: Gli autori propongono di scomporre ogni istanza di dominio in due parti:
  1. Adapter di Dominio: Componenti piccole e specifiche del dominio (encoder $e_D$ e tokenizer $\tau_D$) che mappano la griglia specifica in uno spazio latente canonico.
  2. Core Condiviso Invariante al Dominio: Una componente grande e condivisa (encoder di contesto, encoder target e predittore latente condizionato all'azione) che opera esclusivamente su latenti canonici e token di azione.
• Premessa: Poiché il core è identico per costruzione, qualsiasi trasferimento osservato è attribuibile a proprietà strutturali condivise piuttosto che al mero riutilizzo architettonico.

B. Corrispondenza Cross-Dominio

La relazione tra due domini è formalizzata come un Omoformismo di MDP Approssimato.

• Omoformismo Esatto: Una mappatura $\Phi = (\phi_Z, \phi_A)$ che intreccia perfettamente i kernel di transizione e preserva le ricompense. Il documento nota che tali omoformismi raramente esistono tra domini fisici e non fisici non correlati.
• Omoformismo Approssimato: La qualità della corrispondenza è misurata da una Discrepanza di Bisimulazione Lassa ($\epsilon_{lax}$), che aggrega:
  • Difetto di Transizione ($\epsilon_T$): La distanza Wasserstein-1 tra la pushforward delle transizioni sorgente e le transizioni target.
  • Difetto di Ricompensa ($\epsilon_r$): La differenza massima nelle ricompense sotto la mappatura.

C. Limiti Teorici

Gli autori derivano un Limite di Trasferimento Predittivo che separa le fonti di errore:

1. Errore a Passo Singolo: L'errore di un predittore trasportato è limitato dalla somma dell'errore del modello sorgente (scalato dalla costante di Lipschitz dello stato) e dal disallineamento strutturale (il difetto di omoformismo).
2. Limite di Orizzonte: Durante il rollout del predittore su un orizzonte $H$, l'errore cresce geometricamente in base alla costante di Lipschitz ($L$) della dinamica del core.
   • Se $L \leq 1$ (contrattivo/stabile), l'errore scala linearmente o rimane limitato.
   • Se $L > 1$ (espansivo), l'errore cresce geometricamente, limitando il trasferimento a brevi orizzonti.
3. Pavimento Strutturale: La distanza Gromov-Wasserstein (GW) tra gli operatori di transizione dei due domini fornisce un limite inferiore sulla discrepanza realizzabile. Nessuna corrispondenza può ridurre l'errore al di sotto di metà della distanza GW.
4. Regret Decisionale: Utilizzando la proprietà del valore di Lipschitz della metrica di bisimulazione, l'errore di predizione latente viene ridotto a regret decisionale. Ciò collega la fedeltà della rappresentazione direttamente alla qualità del controllo.

3. Contributi Chiave

1. Modello Formale: Una definizione di domini decisionali a stato strutturato come processi di Markov controllati su griglie latenti gradate, fattorizzati in adapter e un core condiviso.
2. Teoria del Trasferimento: Una teoria quantitativa della corrispondenza cross-dominio utilizzando omoformismi di MDP approssimati, misurati tramite discrepanza di bisimulazione lassa e distanza Gromov-Wasserstein.
3. Limite di Trasferimento Predittivo: Una derivazione che separa l'errore del modello sorgente dal disallineamento strutturale, mostrando come l'errore scala con l'orizzonte di predizione e le costanti di Lipschitz.
4. Riduzione del Regret: Una prova che collega l'errore latente al regret decisionale, garantendo che la teoria affronti la qualità del controllo e non solo la somiglianza della rappresentazione.
5. Ipotesi di Trasferimento a Stato Strutturato (SSTH): Un'affermazione falsificabile secondo cui il guadagno di trasferimento è una funzione decrescente della discrepanza strutturale (limitata inferiormente dalla distanza GW).
6. Programma Sperimentale Preregistered: Un piano dettagliato (Fasi 1–4) per testare l'ipotesi, passando da controlli di sanità entro lo stesso dominio fino al "trasferimento lontano" (dalla guida ai book ordini), con condizioni esplicite di refutazione.

4. Risultati

Il documento non presenta risultati empirici.
Gli autori dichiarano esplicitamente: "Non presentiamo risultati empirici: questo è un progetto di ricerca il cui contributo è convertire un'intuizione ampiamente ripetuta in una teoria testabile."
I "risultati" sono derivazioni teoriche (Proposizioni 1–3, Corollario 1) e un insieme di previsioni preregistrate (P1–P4) per esperimenti futuri.

5. Significato e Affermazioni

La significanza di questo lavoro risiede nella sua modestia e rigore:

• Dall'Intuizione alla Teoria: Sposta il concetto di trasferimento cross-dominio da un'intuizione ripetuta a un quadro matematicamente fondato e testabile.
• Misurabilità: Fornisce metriche specifiche (distanza GW, costanti di Lipschitz, discrepanza lassa) per quantificare quando il trasferimento è possibile e quanto ci si può aspettare.
• Falsificabilità: L'Ipotesi di Trasferimento a Stato Strutturato è esplicitamente progettata per essere confutata. Il documento delinea condizioni specifiche in cui la teoria verrebbe smentita (es. se il trasferimento avviene nonostante un'alta discrepanza, o se il decadimento dell'orizzonte è indipendente dalla costante di Lipschitz).
• Nessuna Pretesa di Nuova Architettura: Gli autori chiariscono che l'architettura sottostante (TERRA) è una ricombinazione di componenti già validati (JEPA, modelli del mondo, tokenizzazione). Il contributo è la teoria del trasferimento costruita sopra questo substrato, non l'architettura stessa.

Il documento conclude che, sebbene la validità dell'ipotesi sia ignota, la capacità di rispondere alla questione del trasferimento con strumenti matematici esistenti è il contributo primario.