TERRA: Task-Embedded Reasoning and Representation Architecture for Cross-Domain Applications

Technische Samenvatting: TERRA – Task-Embedded Reasoning and Representation Architecture for Cross-Domain Applications

Status van het paper: Dit is een onderzoeksvoorstel en een theoretisch kader. De auteurs geven expliciet aan dat er geen empirische resultaten worden gepresenteerd. Het werk zet een wijdverbreide intuïtie — dat predictieve modellen in één gestructureerd domein (bijv. rijden) kan overdragen naar een ander (bijv. financiële markten) — om in een falsifieerbare theorie met een vooraf geregistreerd experimenteel programma.

1. Het Probleem

Huidige architecturen voor predictief leren (bijv. V-JEPA, Dreamer, RT-2) hebben succes behaald binnen specifieke domeinen door actie-geconditioneerde latente toestanden te modelleren. Echter, de bewering dat een representatie of voorspeller die geleerd is in één domein (bijv. een fysieke robotwerkruimte) overdraagbaar is naar een structureel analoge maar ongerelateerde domein (bijv. een financieel orderboek of een elektriciteitsnet) blijft een ongeteste intuïtie.

Het kernprobleem is de transfervraag:

• Wanneer draagt een representatie die geleerd is in Domein A over naar Domein B?
• Om hoeveel draagt het over?
• Wat zijn de theoretische grenzen aan deze transfer, en hoe kunnen deze gemeten worden?

Bestaand werk mist een formele theorie om uit te leggen wanneer deze transfer zou moeten standhouden of waarom het zou kunnen falen, met name voor hoogdimensionale, actie-geconditioneerde latente voorspellers over gestructureerde rasters.

2. Methodologie en Theoretisch Kader

Het paper stelt een formele wiskundige behandeling voor van cross-domein transfer, waarbij domeinen worden gemodelleerd als Controlled Markov Processes on Graded Latent Grids.

A. Domeinmodellering en Factorisatie

• Gestructureerde-toestand Domein: Gedefinieerd als een tupel $(S, A, T, r)$ waar de toestandsruimte $S$ een graded grid-representatie toelaat (bijv. voxel-grids voor rijden, prijs-tijd-grids voor orderboeken).
• Architectuur Factorisatie: De auteurs stellen voor om elke domein-instantie te deconstrueren in twee delen:
  1. Domain Adapters: Kleine, domeinspecifieke componenten (encoder $e_D$ en tokenizer $\tau_D$) die het specifieke grid naar een canonieke latente ruimte mappen.
  2. Shared Domain-Invariant Core: Een grote, gedeelde component (context encoder, target encoder en de actie-geconditioneerde latente voorspeller) die uitsluitend opereert op canonieke latenten en actie-tokens.
• Premisse: Omdat de core door constructie identiek is, is elke geobserveerde transfer toe te schrijven aan gedeelde structurele eigenschappen in plaats van louter architecturaal hergebruik.

B. Cross-Domein Correspondentie

De relatie tussen twee domeinen wordt geformaliseerd als een Approximate Markov Decision Process (MDP) Homomorfisme.

• Exact Homomorfisme: Een mapping $\Phi = (\phi_Z, \phi_A)$ die transitie-kernels perfect verweeft en beloningen behoudt. Het paper merkt op dat deze zelden voorkomen tussen ongerelateerde fysieke en niet-fysieke domeinen.
• Approximate Homomorfisme: De kwaliteit van de correspondentie wordt gemeten door een Lax Bisimulation Discrepancy ($\epsilon_{lax}$), die het volgende aggregeert:
  • Transition Defect ($\epsilon_T$): De Wasserstein-1 afstand tussen de pushforward van bron-transities en target-transities.
  • Reward Defect ($\epsilon_r$): Het maximale verschil in beloningen onder de mapping.

C. Theoretische Grenzen

De auteurs leiden een Predictive Transfer Bound af die foutbronnen scheidt:

1. One-Step Error: De fout van een getransporteerde voorspeller wordt begrensd door de som van de bron-model fout (geschaald door de Lipschitz-constante van de state map) en de structurele mismatch (het homomorfisme-defect).
2. Horizon Bound: Wanneer de voorspeller over een horizon $H$ wordt gerold, groeit de fout geometrisch op basis van de Lipschitz-constante ($L$) van de core-dynamica.
   • Als $L \leq 1$ (contractief/stabiel), groeit de fout lineair of blijft deze begrensd.
   • Als $L > 1$ (expansief), groeit de fout geometrisch, wat de transfer beperkt tot korte horizonten.
3. Structural Floor: De Gromov-Wasserstein (GW) afstand tussen de transitie-operatoren van de twee domeinen biedt een ondergrens voor de haalbare discrepantie. Geen enkele correspondentie kan de fout onder de helft van de GW-afstand brengen.
4. Decision Regret: Door gebruik te maken van de Lipschitz-waarde eigenschap van bisimulatie-metrieken, wordt de latente voorspellingsfout teruggebracht tot decision regret. Dit verbindt representatie-getrouwheid direct met controlekwaliteit.

3. Belangrijkste Bijdragen

1. Formeel Model: Een definitie van gestructureerde-toestand beslissingsdomeinen als controlled Markov processes op graded latent grids, gefactoriseerd in adapters en een gedeelde core.
2. Transfer Theorie: Een kwantitatieve theorie van cross-domein correspondentie met behulp van benaderde MDP-homomorfismen, gemeten door lax bisimulation discrepancy en Gromov-Wasserstein afstand.
3. Predictive Transfer Bound: Een afleiding die de bron-model fout scheidt van de structurele mismatch, en laat zien hoe de fout schaalt met de voorspellingshorizon en Lipschitz-constanten.
4. Regret Reduction: Een bewijs dat de latente fout koppelt aan decision regret, waardoor wordt gewaarborgd dat de theorie zich richt op controlekwaliteit en niet enkel op representatie-gelijkenis.
5. Structured-State Transfer Hypothesis (SSTH): Een falsifieerbare claim die stelt dat de transfer-winst een dalende functie is van de structurele discrepantie (ondergrens bepaald door de GW-afstand).
6. Preregistered Experimental Program: Een gedetailleerd plan (Fases 1–4) om de hypothese te testen, bewegend van binnen-domein sanity checks naar "far transfer" (rijden naar orderboeken), met expliciete condities voor weerlegging.

4. Resultaten

Het paper presenteert geen empirische resultaten.
De auteurs stellen expliciet: "We presenteren geen empirische resultaten: dit is een onderzoeksvoorstel waarvan de bijdrage bestaat uit het omzetten van een veel herhaalde intuïtie in een testbare theorie."
De "resultaten" zijn theoretische afleidingen (Proposition 1–3, Corollary 1) en een reeks vooraf geregistreerde voorspellingen (P1–P4) voor toekomstige experimenten.

5. Betekenis en Claims

De betekenis van dit werk ligt in de bescheidenheid en de rigueur:

• Van Intuïtie naar Theorie: Het transformeert het concept van cross-domein transfer van een herhaalde intuïtie naar een wiskundig gefundeerd, testbaar kader.
• Meetbaarheid: Het biedt specifieke metrieken (GW-afstand, Lipschitz-constanten, lax discrepancy) om te kwantificeren wanneer transfer mogelijk is en hoeveel men kan verwachten.
• Falsifieerbaarheid: De Structured-State Transfer Hypothesis is expliciet ontworpen om te worden weerlegd. Het paper schetst specifieke condities waaronder de theorie onjuist zou worden bewezen (bijv. als transfer optreedt ondanks een hoge discrepantie, of als horizon-decay onafhankelijk is van de Lipschitz-constante).
• Geen Claim van een Nieuwe Architectuur: De auteurs verduidelijken dat de onderliggende architectuur (TERRA) een recombinatie is van bestaande gevalideerde componenten (JEPA, world models, tokenization). De bijdrage is de theorie van transfer die op dit substraat is gebouwd, niet de architectuur zelf.

Het paper concludeert dat hoewel de geldigheid van de hypothese onbekend is, het vermogen om de transfervraag te beantwoorden met bestaande wiskundige instrumenten de primaire bijdrage is.