TERRA: Task-Embedded Reasoning and Representation Architecture for Cross-Domain Applications

Resumo Técnico: TERRA – Arquitetura de Representação e Raciocínio Baseada em Tarefas para Aplicações Cross-Domain

Status do Artigo: Este é uma proposta de pesquisa e um arcabouço teórico. Os autores declaram explicitamente que não são apresentados resultados empíricos. O trabalho converte uma intuição amplamente difundida — de que modelos preditivos em um domínio estruturado (ex: direção) podem ser transferidos para outro (ex: mercados financeiros) — em uma teoria falseável com um programa experimental pré-registrado.

1. O Problema

Arquiteturas de aprendizado preditivo atuais (ex: V-JEPA, Dreamer, RT-2) alcançaram sucesso dentro de domínios específicos ao modelar estados latentes condicionadas à ação. No entanto, a afirmação de que uma representação ou um preditor aprendido em um domínio (ex: o espaço de trabalho de um robô físico) se transfere para um domínio estruturalmente análogo, mas não relacionado (ex: um livro de ordens financeiro ou uma rede elétrica), permanece uma intuição não testada.

O problema central é a questão da transferência:

• Quando uma representação aprendida no Domínio A se transfere para o Domínio B?
• Em quanto essa transferência ocorre?
• Quais são os limites teóricos dessa transferência e como eles podem ser medidos?

O trabalho existente carece de uma teoria formal para explicar quando essa transferência deve ocorrer ou por que ela pode falhar, particularmente para preditores latentes de alta dimensão condicionados à ação sobre grades estruturadas.

2. Metodologia e Arcabouço Teórico

O artigo propõe um tratamento matemático formal da transferência cross-domain, modelando domínios como Processos de Markov Controlados em Grades Latentes Graduadas.

A. Modelagem de Domínio e Fatoração

• Domínio de Estado Estruturado: Definido como uma tupla $(S, A, T, r)$ onde o espaço de estados $S$ admite uma representação de grade graduada (ex: grades de voxels para direção, grades de preço-tempo para livros de ordens).
• Fatoração da Arquitetura: Os autores propõem decompor qualquer instanciação de domínio em duas partes:
  1. Adaptadores de Domínio: Componentes pequenos e específicos do domínio (codificador $e_D$ e tokenizador $\tau_D$) que mapeiam a grade específica para um espaço latente canônico.
  2. Núcleo Compartilhado Invariante ao Domínio: Um componente grande e compartilhado (codificador de contexto, codificador de alvo e preditor latente condicionado à ação) que opera exclusivamente sobre latentes canônicos e tokens de ação.
• Premissa: Como o núcleo é idêntico por construção, qualquer transferência observada é atribuível a propriedades estruturais compartilhadas, e não ao mero reuso arquitetural.

B. Correspondência Cross-Domain

A relação entre dois domínios é formalizada como um Homomorfismo de Processo de Decisão de Markov (MDP) Aproximado.

• Homomorfismo Exato: Um mapeamento $\Phi = (\phi_Z, \phi_A)$ que entrelaça perfeitamente os núcleos de transição e preserva recompensas. O artigo observa que estes raramente existem entre domínios físicos e não físicos não relacionados.
• Homomorfismo Aproximado: A qualidade da correspondência é medida por uma Discrepância de Bisimulação Lax ($\epsilon_{lax}$), que agrega:
  • Defeito de Transição ($\epsilon_T$): A distância de Wasserstein-1 entre o pushforward das transições da origem e as transições do alvo.
  • Defeito de Recompensa ($\epsilon_r$): A diferença máxima nas recompensas sob o mapeamento.

C. Limites Teóricos

Os autores derivam um Limite de Transferência Preditiva que separa as fontes de erro:

1. Erro de Passo Único: O erro de um preditor transportado é limitado pela soma do erro do modelo de origem (escalonado pela constante de Lipschitz do mapa de estado) e o desajuste estrutural (o defeito de homomorfismo).
2. Limite de Horizonte: Ao realizar o rollout do preditor sobre um horizonte $H$, o erro cresce geometricamente com base na constante de Lipschitz ($L$) da dinâmica do núcleo.
   • Se $L \leq 1$ (contrativo/estável), o erro escala linearmente ou permanece limitado.
   • Se $L > 1$ (expansivo), o erro cresce geometricamente, limitando a transferência a horizontes curtos.
3. Piso Estrutural: A distância Gromov-Wasserstein (GW) entre os operadores de transição dos dois domínios fornece um limite inferior no desvio alcançável. Nenhuma correspondência pode reduzir o erro abaixo de metade da distância GW.
4. Regret de Decisão: Usando a propriedade do valor de Lipschitz de métricas de bisimulação, o erro de predição latente é reduzido a regret de decisão. Isso conecta a fidelidade da representação diretamente à qualidade do controle.

3. Principais Contribuições

1. Modelo Formal: Uma definição de domínios de decisão de estado estruturado como processos de Markov controlados em grades latentes graduadas, fatorados em adaptadores e um núcleo compartilhado.
2. Teoria de Transferência: Uma teoria quantitativa de correspondência cross-domain usando homomorfismos de MDP aproximados, medidos por discrepância de bisimulação lax e distância Gromov-Wasserstein.
3. Limite de Transferência Preditiva: Uma derivação que separa o erro do modelo de origem do desajuste estrutural, mostrando como o erro escala com o horizonte de predição e constantes de Lipschitz.
4. Redução de Regret: Uma prova que liga o erro latente ao regret de decisão, garantindo que a teoria aborde a qualidade do controle, não apenas a similaridade da representação.
5. Hipótese de Transferência de Estado Estruturado (SSTH): Uma afirmação falseável estabelecendo que o ganho de transferência é uma função decrescente da discrepância estrutural (limitada inferiormente pela distância GW).
6. Programa Experimental Pré-registrado: Um plano detalhado (Fases 1–4) para testar a hipótese, movendo-se de verificações de sanidade dentro do domínio para "transferência distante" (direção para livros de ordens), com condições explícitas de refutação.

4. Resultados

O artigo não apresenta resultados empíricos.
Os autores declaram explicitamente: "Não apresentamos resultados empíricos: esta é uma proposta de pesquisa cuja contribuição é converter uma intuição amplamente repetida em uma teoria testável."
Os "resultados" são derivações teóricas (Proposições 1–3, Corolário 1) e um conjunto de previsões pré-registradas (P1–P4) para experimentos futuros.

5. Significância e Alegações

A significância deste trabalho reside em sua modéstia e rigor:

• Da Intuição para a Teoria: Ele move o conceito de transferência cross-domain da intuição repetida para um arcabouço matematicamente fundamentado e testável.
• Mensurabilidade: Fornece métricas específicas (distância GW, constantes de Lipschitz, discrepância lax) para quantificar quando a transferência é possível e quanto esperar.
• Falseabilidade: A Hipótese de Transferência de Estado Estruturado foi explicitamente desenhada para ser refutada. O artigo delineia condições específicas sob as quais a teoria seria provada errada (ex: se a transferência ocorrer apesar de alta discrepância, ou se o decaimento do horizonte for independente da constante de Lipschitz).
• Sem Alegação de Nova Arquitetura: Os autores esclarecem que a arquitetura subjacente (TERRA) é uma recombinação de componentes validados existentes (JEPA, modelos de mundo, tokenização). A contribuição é a teoria da transferência construída sobre este substrato, não a arquitetura em si.

O artigo conclui que, embora a validade da hipótese seja desconhecida, a capacidade de responder à questão da transferência com ferramentas matemáticas existentes é a principal contribuição.